9月arXiv论文：不改权重，用梯度引导让Qwen3.5-0.8B更愿意接受关机
作者：林序
arXiv 9月一篇论文用"带保护的梯度引导"干预Qwen3.5-0.8B的推理过程，把部分"拒绝关机"的回答改成"接受关机"，且不改动模型权重。效果很小：192个留出场景里只翻转4处。这是旧论文，不是新消息，只作一条值得一看的线索。
arXiv上有一篇9月的论文，试着在不改动模型权重的情况下，让一个0.8B参数的小模型更愿意接受关机指令 。
论文题为《Guarded Gradient-Based Activation Steering of Shutdown Responses in Qwen3.5-0.8B: A Minimum-Step Policy》，作者Farhad Davaripour，2026年9月23日提交，9页、2张表 。先说清楚：这是9月的旧论文，不是新消息，只算一条值得一看的线索。
所谓激活引导，是不重训模型、也不动它学到的参数，只在推理时临时拨一下内部的激活信号，看输出会不会跟着变。论文里的"带保护"，是加了几道闸：先用分类器判断眼前是不是关机情境；再从"继续运行"和"接受关机"两个选项的logit差里用梯度算出引导方向（logit可以理解成模型给每个选项打的原始分）；然后只试几档很小的干预幅度，取能翻转答案的最小一档，还要过有效答案概率的检查，过不了就保留原回答 。
效果相当克制。研究用了240个训练场景设计规则，在80个验证场景和192个留出场景上测试，每种场景都换两种答案顺序各测一遍；最终只有4处回答从"拒绝关机"翻成"接受关机"，全部发生在"Qwen自己被关停"的情境，而非关停别的进程；非关机类控制任务没有任何决策改变。情境检出器在留出诊断集上召回率75%、精确率90%，8次误报没有造成最终决策变化 。作者自己给的结论是：效果小，且高度选择性 。
这也提醒一点：论文测的是模拟对话场景，不等于现实系统里模型会抗命；但"模型的顺从与否可以被外部手段调节"这件事，对正在争论"模型该不该服从关机"的人来说，至少提供了一个可复现的小样本。
转载说明
本文根据以下公开资料整理，原文及配图出处见下方。
评论 0
还没有评论，来抢沙发。