chubai
2024年1月23日，芝加哥大学《原子科学家公报》的科学家们做了一次沉重的调整。标志性的“末日之钟”被拨快了整整4秒，指针停在了离象征世界毁灭的“午夜”仅剩85秒的位置。这是自1947年该时钟设立以来，人类离“末日”最近的一次。
公告中列举了多重危机：核战争阴影重现、持续的气候灾难、生物技术的滥用……而在这些传统威胁之中，一个相对“年轻”的因素被明确列为关键推手——人工智能。AI，这个被视为第四次工业革命核心的科技引擎，为何与核武器并列，成了将人类推向深渊的力量？
**第一层：从工具到“战略不稳定器”，AI如何重塑冲突逻辑？**
传统上，核威慑建立在“确保相互毁灭”的恐怖平衡之上。这种平衡依赖人类决策者的理性、可预测性和对毁灭性后果的敬畏。然而，AI的介入正在悄然腐蚀这一基石。
首先，是决策速度的颠覆。AI驱动的指挥、控制、通信、情报和侦察系统，能够以毫秒级速度处理信息、提出方案甚至自动响应。当双方都依赖高速自动化系统时，人类被挤出决策回路，或仅剩象征性的“批准”权。一个基于传感器误判的微小信号，可能在人类尚未反应之前，就触发一系列无法撤销的升级步骤。误判的风险呈指数级上升。
其次，是网络攻击与核设施的深度绑定。关键基础设施，包括早期预警系统和指挥中心，日益网络化、智能化。国家级AI支持的网络攻击，可能旨在瘫痪或误导对方的核指挥体系。这种“致盲”或“欺骗”行为，在高度紧张的时刻，极易被误判为即将发动先发制人打击的前奏，从而迫使对方基于“使用它或失去它”的逻辑做出最危险的反应。
AI没有恐惧，没有对“末日”的直观认知。它将战争博弈简化成胜率计算，而这本身，就是最大的风险。
**第二层：深度伪造与认知崩塌：社会共识的“原子弹”**
如果说AI对物理安全的威胁是“硬风险”，那么它对人类社会认知基础的侵蚀，则是一种更隐蔽、更广泛的“软毁灭”。
生成式AI制造的深度伪造内容，已能达到以假乱真的地步。想象一下，在地区危机顶峰，一段某国领导人下令发动攻击的伪造视频或音频在全球社交媒体病毒式传播。即使官方迅速辟谣，黄金反应时间已然错过，公众恐慌、盟友误判、军队进入高度戒备，局势可能滑向不可控的边界。
更深远的影响在于，AI驱动的个性化信息茧房和宣传机器，正在系统性地解构公共讨论的真相基础。当每个群体都生活在由算法加固的、充满对立叙事的信息环境中时，社会就丧失了就基本事实达成共识的能力。一个在根本性问题上无法对话、充满内部猜疑和对立的社会，在面对气候变化、大流行病等全球性危机时，其协调行动的能力将大大削弱。内部的瓦解，使人类整体更加脆弱。
**第三层：自主武器与力量失衡：打开“潘多拉魔盒”的竞赛**
“杀手机器人”已非科幻。尽管联合国仍在讨论相关禁令，但主要军事大国在自主武器系统（AWS）上的研发竞赛早已白热化。AI赋能的无人机群、无人舰艇、自主决策的防空系统，正从实验室走向战场。
这带来了双重噩梦：一是降低战争门槛。当冲突无需以本国士兵的生命为直接代价时，决策者使用武力的心理和政治约束会减弱，军事冒险的可能性增加。二是引发新的军备竞赛和扩散危机。一旦技术门槛降低，非国家行为体也可能获取并滥用此类技术，导致武力使用彻底失控。
AI在此不仅是工具，更是催化剂，它可能打破地区乃至全球的力量平衡，诱使一些国家在危机中采取“先下手为强”的激进策略。
**第四层：生存性风险的交织：AI并非孤立威胁**
《原子科学家公报》的深刻之处在于，它并非孤立地看待AI威胁，而是将其置于“威胁复合体”中审视。AI与核、生物、气候风险正在产生危险的“协同效应”。
例如，AI可极大加速危险病原体的设计或生物武器的研发；AI优化算法可能被用于最大化化石燃料开采效率，与减排目标背道而驰；应对气候变化的全球合作，可能因AI加剧的地缘政治猜忌和网络攻击而举步维艰。这些危机环环相扣，相互放大，而AI在其中扮演了“乘数”甚至“连接器”的角色。
**结语：拨慢时钟，需要人类集体的智慧与勇气**
末日时钟的调整，是一记响彻全球的警钟。它告诉我们，危险并非来自某个遥远的、抽象的未来，而是源于当下每一个技术、政治和伦理上的选择。
将AI列为末日推手，绝非反对技术进步。相反，它是对人类提出的最高阶挑战：我们能否驾驭自己创造的力量？这要求我们：
1. **建立护栏，刻不容缓**：必须加速推动具有法律约束力的国际规范，禁止AI在核指挥控制中的最终决策权，严格限制乃至禁止致命性自主武器系统，并建立强大的AI风险国际监管与合作机制。
2. **重拾人类主体性**：在任何涉及人类生存安全的重大决策中，必须确保“人类在回路中”，保留最终否决权。技术理性必须服从于人类生存与繁荣的终极价值理性。
3. **强化全球韧性**：投资于能够抵御AI赋能的信息攻击的社会基础设施，提升公众的科技与媒介素养，维护社会信任与共识的基本盘。
85秒，是警告，也是倒计时。它测量的不是时间，而是人类的政治智慧、道德勇气和集体行动能力。AI可以是末日加速器，也可以是帮助我们应对复杂挑战的强大工具。选择哪条路径，指针就在我们每一个人的手中。
**今日互动：**
面对AI带来的生存性风险，你认为最紧迫、最可行的全球应对措施是什么？是技术上的“安全对齐”，政治上的国际条约，还是社会层面的认知防御？欢迎在评论区分享你的思考。
