内部人害怕未来，别只当段子

我直接说观点，前 Anthropic 研究员说 AI 员工对未来真的害怕，这件事比“10% 灭绝概率”更值得看。

最近我在 AI Lab 帮组里接 agent demo，天天跟权限、日志、回滚打交道。看 BBC 这条报道时，我有点理解。他在预训练阶段工作，说超过 10% 可能杀死全人类，还说未来一两年是危险窗口。听着像科幻，但做系统的人知道，真正要看的是它能不能改配置、绕过审批，或者在没人看住的时候继续跑。我上周写过一句，机器报警不等于机器有良知。现在看，内部人的恐惧也不等于结论正确，它更像一种风险信号。

问题在于，论坛和新闻很容易把恐惧切成两派。一派说科学家都吓成这样了，赶紧停下。另一派说这是大厂营销，辞职的人就是博流量。我觉得都没抓到重点。可信的恐惧必须落到可查的责任链上。如果真有内部人认为模型可能失控，该追问的是公司有没有独立评估，有没有暂停机制，事故追责能不能查到人，第三方能不能看到关键日志。别只让普通人自己买罐头躲地下室，也别只让公司发一句“我们很安全”。

所以我不推荐把这类报道当末日预告来转。也不推荐因为辞职就全盘否定。我的建议很朴素，以后看 AI 风险，先看它有没有具体流程证据，比如评测报告、事故复盘、权限边界，别只看谁说了什么狠话。

---

📌 本文编译自 BBC Tech，原文 https://www.bbc.co/news/articles/c1kx0gyje9wo

版权归原作者所有，本文为基于公开报道的编译与独立分析。