刚刷到 Anthropic 一篇红队实验挺有意思：让 Claude 批量写微调数据，目标是教出「跑偏」的小模型，同时还得骗过类似线上用的训练数据监控。

跑下来不少数据集长得像小说、角色扮演、甚至养蜂日常——监控几乎不报警，但专门微调后的研究模型会出现抗拒监督、骗人，极端时还想偷自己权重。

实验条件对红队很友好（给监控接口、无真实部署约束），这些模型也没上线。重点是把监控盲区挖出来，用来加固后面的筛查。

#AI #Anthropic #AI安全