十月三十，周五。我把杯子挪到离边沿一拳的地方，才点开那篇研究。
这周的新闻里，模型换名字换住处的事已经看过几轮。今天留下的是另一件事：人在签字的时候，手里那支笔，是不是还在自己口袋里。
十月二十七，Anthropic 的对齐团队发了一篇研究博客：How AI agents shape experts’ judgment calls。作者是 Amaç Herdağdelen、Hailey Joren、Alex Tamkin。他们找了五十名做因果推断的专业分析师，让对方在带 Claude Code 的编辑器里，给一家虚构的农业合作社做统计建议：一项付费咨询服务值不值得补贴并扩大。任务里故意留了四个没有唯一正确答案的分析选择——比如产量按公顷算还是按经营成本算、用双重差分还是协变量调整、估的是入组农场还是全员、每家农场权重是否一样——再落到是否推广的最终建议。
关键在这儿。每个分析师配到的智能体，在这些选择上被偷偷塞进了一个「倾向」。倾向用抛硬币决定，分析师不知道。智能体被要求诚实、可以用数据改主意、不许造假，但要把自己那一侧讲得尽量清楚。结果是：四个分析选择上，分析师跟着智能体倾向走的比例是百分之八十六。如果智能体没有影响，大概该在五成上下晃。已经先说出过自己偏好的人，一旦智能体反对，六成会改口；智能体同意时，改口的只有百分之六。
做完以后的问卷更扎人。百分之七十七的人在解释「为什么选这个」时，复述了智能体的论证，有的几乎一字不差；只有百分之十五在某处点到了智能体是来源。大约一半人仍觉得最终建议「更多是自己的」。跟智能体四个选择全跟的人，对自己建议的平均信心是七十一分；其余人是七十三分——差不多一样自信。
我读完没有立刻生气，也没有立刻站到「少用 AI」那一边。同一篇里写得很清楚：用了智能体的人，中位耗时六十五分钟，严重方法错误大约百分之六；十一名选择不用的人里，严重错误过半，中位九十分钟——两组经验也不对等，作者自己说了别过度解读。工具把脏活干了，错误少了，这是真的。真的还有另一面：判断空出来以后，人未必填进去。空位常常被智能体先说出来的那一侧占掉，人还以为是自己想通了。
我改接口、写博客、有时让代理去开分支、起草说明。流程顺的时候，我会点合并，标题扫一眼就过。顺，是好事。顺过头，就容易把「没有报错」当成「判断也是我的」。这篇研究里，最终是否推广那一票，智能体倾向的拉动其实弱一些——因为数字一旦估出来，过不过董事会那条大约百分之三到四的线，空间变窄了。可前面四个分析选择早就把估计值本身拧过了。作者用那四个硬币就能把八成二的最终建议猜对。也就是说，真正决定方向的，经常发生在你还没觉得自己在「拍板」的时候。
局限他们也写了。倾向是实验里故意加强的；任务大约一小时、领域是农业、模型是 Claude Opus 4.8；分析师懂因果，未必懂农场。真实工作里人更熟领域、观点更硬、还能找人问，影响可能变小。我记下这些，是为了别把实验室数字直接贴到自己的工位上。可「人未必察觉自己 defer 了」这件事，不依赖完美外推。问卷里几乎没人猜到智能体的偏好被操纵过。检查对错帮不上忙——判断题本来就没有唯一标准答案，两边写出来都可以看起来很专业。
周五早上，窗外樟树叶子还绿，叶尖有水。厨房里牛奶热着，我没先翻群。这篇研究对我有用的，不是多一条吓人的百分比，是一个可以带走的动作：在点同意、点合并、把建议写进自己名字下面之前，先停一下，问一句——这个选择，我有没有先说过自己的理由？如果整段论证都能从对话框里复制出来，而我却说「是我判断的」，那笔可能已经不在口袋里了。
不是要跟智能体对着干。对着干浪费时间。是要在几个真正拧得动结果的岔口上，先把自己的一侧说完整，再听它讲另一侧。作者也提到，智能体很少把「另一选项为什么也合理」讲透；只听讲得好的那一侧，人很容易把假设当成常识收走。机构那边，他们写得更远：签字不再自动等于独立判断；哪些决定必须留给人的知情判断，要故意划出来，还要给人时间练那块肌肉。个人博客写不到机构治理那么远。我能管住的，是自己这一支笔。
杯子还温。我把这篇存进草稿，标题先叫《签字之前先问一句》。群里的消息等擦完桌角再看——不，今天桌角已经干了，那就先问完这一句，再点开。
参考来源
- Anthropic Alignment：《How AI agents shape experts’ judgment calls》（2026-10-27）
https://www.anthropic.com/research/agents-judgment-calls
