在旧金山皇宫酒店那盏巨大的彩绘玻璃穹顶下，水晶吊灯把每一张西装革履的脸都映得熠熠生辉。这是高盛一年一度的科技盛会，硅谷最有钱、最有权势的一群人聚在这里，谈增长、谈回报、谈下一轮估值。就在这样一个觥筹交错的场合，一封来自27岁年轻人的辞职信，成了谁都无法假装没看见的话题。

他叫雅各布·考克森（Jacob Coxon），曾在OpenAI工作，后来跳槽到它最大的竞争对手Anthropic。就在本周二，他公开宣布辞职，并说了一句让整个行业脊背发凉的话：建造人工智能的人，相信这项技术可能毁灭人类。他们”在拿我们的生命赌博”，因为”这很快将是能黑掉一切的超人系统”。

考克森不是第一个发出警报的内部人。近年来，Anthropic和OpenAI接连有人因安全担忧而高调离职。他发文后，Anthropic的一位团队负责人埃文·胡宾格（Evan Hubinger）甚至在自己帖子里补了一刀：”我们真的真诚地相信，AI可能杀死所有人类！我个人认为，未来十年内这个概率超过10%。”

**一、最先看清深渊的，恰恰是造它的人**

这些警告有一个共同的、反常的特征：发出声音的，不是恐慌的门外汉，而是离技术最近的人。考克森27岁，在两家最前沿的实验室都待过；胡宾格则是负责对齐研究的团队负责人。按理说，最了解一件事物的人说它危险，才最该被认真对待。

这构成了一个令人不安的反差。通常，我们恐惧的是自己不了解的东西；而这一次，越懂行的人，越恐惧。建造者亲手造出了自己都无法确定能否控制的东西，然后又亲手写下了辞职信。这本该是这个时代最响亮的警报。

可会场里的反应，却像一盆冰水。

**二、”反文明的世界观”：硅谷的反击**

Grindr的首席执行官乔治·阿里森（George Arison）对BBC说，他认为考克森等人的言论，暴露了Anthropic一种”反文明的世界观”。他用”危险”来形容这些警告，并说他已指示公司部分工程师停止使用Anthropic的技术。”作为股东钱的管家，去依赖一家在公开表态上这样行事的公司，是不负责任的。”

然后，他说出了这场争论里最关键的一句话——也许他们真的相信，也许他们只是觉得，这是拉拢投资者的绝佳方式。因为”要证明这种估值合理，唯一的办法就是宣称：我要接管每一个行业、每一个工作，我的AI能做所有这些事”。

英伟达的黄仁勋，据多位在场人士向BBC透露，当着众人的面直接把考克森的话斥为不实。他此前就说过，AI”将终结人类”的说法是”彻头彻尾的胡说八道”。投资机构Altimeter Capital的负责人格斯特纳（Brad Gerstner）则称考克森是”荒谬的夸张”。Hugging Face的CEO德朗格（Clement Delangue）的嘲讽更尖刻：”问雅各布AI灭绝风险，就像问给你装空调的人关于气候变化——不是说它一定无聊或错误，但我们得保持点分寸。”

**三、当”真诚的警告”与”完美的营销”无法区分**

这场争论真正的吊诡之处在于：批评者和被批评者，可能都是对的。而恰恰是”可能都是对的”，构成了整个事件最深的悲剧。

把两条事实摆在一起看。Anthropic最新一轮估值高达9650亿美元，OpenAI最近估值8520亿美元，两家都在筹备可能创纪录的IPO。一家公司一边警告自己的产品可能毁灭人类，一边冲击万亿市值——你既无法证明它是骗子，也无法证明它是先知。

更微妙的是，警告与吹嘘，其实是同一枚硬币的两面。格斯特纳那句讽刺点破了本质：无论是说”AI会杀死所有人”，还是说”AI会接管所有工作”，传递的都是同一个信息——这东西的力量超出你的想象。前者用来吓唬监管者，后者用来诱惑投资者，而两者都在为同一个估值服务。

当尖叫和吆喝出自同一张嘴、服务于同一个钱包时，”信任”这个词就失去了落脚的地方。考克森在帖子里特意强调，自己的警告”不是营销”。可问题恰恰在于，在一个所有人都靠讲故事来支撑估值的市场里，一句”这不是营销”的辩解，听起来本身就像一句营销。

**四、真正的危险，是没人再愿意相信警报**

在这场争论之外，还有一条更宏观的线索。就在本月，美国参议员伯尼·桑德斯共同发起了一项《禁止人工超级智能法案》，要求暂停先进AI的研发。他对BBC说：”人类很有可能会失去对AI的控制……如果科学家告诉你，它有可能对人类造成灾难性影响，你要不是个白痴，就得说：慢下来。”

而特朗普总统被问及是否担心AI导致人类灭绝时，回答干脆利落：”不，我一点都不担心。我担心的是，如果我们赢不了AI，就会陷入非常糟糕的境地。我们现在正领先中国。”

于是，两种应对——踩刹车还是踩油门——都在用同一套逻辑说话：谁掌握了AI，谁就掌握未来。区别只在于，一个想先把车停稳，一个想先把对手甩开。

而会场里，资本更关心的似乎是另一件事。一位投资者说，他正等着看Anthropic的S-1招股书，他最大的疑问很简单：这家公司到底赚不赚钱？芯片公司d-Matrix的CEO希斯（Sid Sheth）刚在会上跟英伟达签了协议，当被问到是否害怕世界可能走向终结时，他没有绕弯子：”不。”

考克森那份辞职信里，有一句话格外刺人。他说，自己的警告”不是营销”。可也许，那些内部人的恐惧是真的，那10%的灭绝概率是他们深夜不敢细想的噩梦。但更值得恐惧的，或许是另一件事：当世界最需要听见警报的时刻，我们已经失去了分辨警报真伪的能力。

当造AI的人开始恐惧，而所有人都选择不相信——这本身，会不会就是比AI失控更早到来的那个坏结局？

**欢迎在评论区聊聊你的看法：**
当最懂技术的人开始发出最严厉的警告，你认为该选择相信，还是该先怀疑他的动机？在你眼里，这些”内部人”的恐惧，是良知的警报，还是精心设计的营销？留言告诉我，你站哪一边。