2025年，全球人工智能治理进入深水区，各国争相出台政策抢占话语权。然而，南非政府近日却上演了一出令人啼笑皆非的“翻车”事件：其首份国家人工智能政策草案，因参考文献列表中出现大量虚构来源，被迫撤回。更令人尴尬的是，这些虚假引用，疑似由人工智能生成。
这起事件看似是一桩技术失误，实则暴露了AI时代一个深层的治理悖论：当政府试图用AI来制定AI政策时，谁又来为AI的错误负责？它不仅是南非的尴尬，更是全球数字治理体系在信任危机中的一次警示。
一、从“AI写诗”到“AI写政策”：技术越界与责任真空
南非这份AI政策草案，本意是好的。作为非洲大陆的经济引擎，南非希望借助AI实现产业升级、提升公共服务效率，并建立符合本国国情的监管框架。然而，当草案提交审议时，学者和专家们发现，其参考文献列表中存在多篇“不存在”的论文——作者名字、期刊名称、甚至DOI号都像是从某个数据库里随机拼接出来的。
最合理的解释是：起草者使用了生成式AI工具来辅助撰写政策，而AI在“编造”参考文献时，并未意识到这些来源在现实中并不存在。这种现象在学术界早已被戏称为“AI幻觉”，但当它出现在政府政策文本中，性质就完全不同了。
政策制定本应是严谨、透明、可追溯的过程。参考文献不仅是学术诚信的体现，更是政策逻辑的“证据链”。当政府连自己的政策依据都懒得核实，或者无力核实，公众凭什么相信这份政策能指导国家的未来？南非政府随后紧急撤回草案，并承诺将重新起草，但信任的裂痕已经产生。
二、AI治理的“自我指涉”困境：用AI管AI，谁来管AI？
这起事件的时间节点耐人寻味。就在南非撤回草案的同一周，欧盟的《人工智能法案》正在最终审议阶段，美国白宫发布了AI安全行政令的补充指南，中国也在积极推进AI立法。全球各大经济体都在试图通过“以规则管技术”来驯服AI这头猛兽。
然而，南非的案例揭示了一个黑色幽默：当我们试图用AI来辅助制定AI政策时，我们实际上是在让“被监管者”参与“监管规则”的制定。AI系统本身存在偏见、幻觉和不可解释性，如果政策制定者不加甄别地依赖AI，那么政策本身就会成为AI缺陷的“放大器”。
更危险的是，这种“自我指涉”会导致责任真空。当政策内容出现错误时，是追究起草官员的责任，还是追究AI开发者的责任？如果是后者，那么政府是否应该公开其使用的AI工具、版本和训练数据？如果是前者，那么官员完全可以用“AI生成的，我也没仔细看”来推卸责任。南非的撤回事件，恰恰是这种责任真空的典型表现。
三、从“技术官僚”到“技术谦卑”：政策制定者需要补什么课？
南非政府并非孤例。近年来，全球多个国家的政府部门、法院、甚至议会，都曾爆出过使用AI生成文本而出现事实性错误的案例。2023年，美国一名律师因使用ChatGPT撰写法律文件，引用了多起根本不存在的判例，被法官严厉批评。2024年，英国某地方政府被曝使用AI生成居民服务手册，其中包含大量过时且错误的政策信息。
这些案例的共同点在于：技术使用者缺乏对AI工具的基本认知和批判性思维。他们误以为AI是“全知全能”的助手，却忽略了AI本质上是一个“擅长编造事实的概率模型”。当政策制定者将AI的输出视为“权威答案”时，他们就放弃了人类最核心的治理能力——判断力、责任感和对真相的敬畏。
南非的教训告诉我们，AI时代的政策制定者必须补上三门课：一是技术素养课，理解AI的能力边界和常见错误模式；二是逻辑验证课，学会对AI生成的内容进行交叉核查；三是伦理责任课，明确“人类在决策链条中必须始终处于主导地位”。
四、全球AI治理的“信任悖论”：越依赖AI，越需要人类智慧
南非AI政策的“翻车”，本质上是一个信任问题。政府信任AI能帮助自己提高效率，公众信任政府能制定出负责任的政策。但当AI的幻觉被直接植入政策文本时，这两层信任同时崩塌。
这引出了一个更深层的悖论：在AI治理领域，我们越是依赖AI来辅助决策，就越需要强化人类的审核和监督机制。AI可以提高效率，但不能取代责任；可以生成内容，但不能替代判断；可以提供参考，但不能掩盖无知。
全球AI治理正在进入一个“信任重建”期。各国政府不仅要制定规则约束企业，更要率先垂范，展示自己如何使用AI、如何避免被AI误导。如果一个国家连自己的AI政策草案都充满AI生成的虚假信息，它又如何在国际舞台上倡导“负责任的人工智能”？
五、结语：AI不会犯错，但人会
南非AI政策的撤回，是一次昂贵的教训，也是一次及时的警钟。它提醒我们：AI本身不会犯错，它只是忠实地执行了训练数据中的模式。但人类会犯错，尤其是当人类放弃思考、盲目信任工具的时候。
在AI时代，最稀缺的能力不是使用AI的技术，而是质疑AI的勇气和核实AI的耐心。对于政策制定者而言，这意味着：在按下“生成”按钮之前，先问问自己——如果这个政策被自己的孩子、被未来的历史学家审视，我们能否坦然地说：这是我们人类深思熟虑后的选择，而不是AI的随机输出？
南非已经迈出了撤回错误的第一步。接下来，全球治理者都需要思考：我们如何避免成为AI的“提线木偶”，而是真正成为技术的驾驭者？
【评价引导】
这起事件让你想到了什么？在你的工作或生活中，是否也遇到过“AI生成内容”被误信的情况？欢迎在评论区分享你的经历和看法。如果这篇文章让你对AI治理有了新的思考，请点个“在看”并转发给身边关心技术伦理的朋友。我们下期见。