2025年4月，一条来自约翰内斯堡的消息震动全球科技政策圈：南非政府正式撤回其首份国家人工智能政策草案。原因并非内容激进或资金不足，而是这份草案的参考文献列表中，赫然出现了多个由AI生成的虚构来源。一个本应规范人工智能的国家级文件，其起草过程却先被人工智能“摆了一道”——这堪称人工智能治理史上最具讽刺意味的翻车事件。
**一、翻车现场：一份“注水”的政策文件**
据南非当地媒体披露，这份被撤回的政策草案在文献引用部分存在严重问题。经专家核查，至少有数篇被引用的学术论文、研究报告和行业白皮书在权威数据库中根本不存在。这些来源的标题、作者、期刊名称看起来“像模像样”，但仔细比对便会发现破绽：有的作者名字在学术界查无此人，有的期刊早已停刊，有的论文标题甚至存在语法错误——这恰恰是大语言模型生成文本时的典型特征。
南非政府随后承认，在政策起草过程中，部分工作人员使用了AI工具进行文献检索和摘要整理，但未能对输出结果进行严格的人工核验。最终，这些由AI“编造”的虚假参考文献被堂而皇之地写入了国家级政策文件。
**二、为什么偏偏是南非？发展中国家的AI治理困境**
这起事件绝非偶然。南非作为非洲大陆最发达的经济体，近年来一直在积极追赶全球人工智能治理浪潮。2024年，南非政府宣布将制定首份国家AI政策，旨在平衡技术创新与风险管控，同时争取在非洲AI治理中占据领导地位。然而，政策制定需要大量跨学科的专业知识，尤其是对前沿技术伦理、法律框架和国际经验的深度理解。
问题在于，南非的学术和智库生态远不如欧美成熟。当政策起草团队面临时间紧迫、专业人才不足的困境时，AI工具就成了看似高效的“捷径”。工作人员用ChatGPT或类似工具搜索“AI治理最佳实践”“全球AI政策比较”等关键词，AI则“贴心”地生成了一堆看似权威的参考文献——但AI并不具备区分真实与虚构的能力，它只是在概率模型下“编造”出最可能符合用户预期的文字。
这暴露了发展中国家在AI治理中的一个深层悖论：它们迫切需要借助AI技术来提升治理能力，但本国数据基础设施、学术审查机制和人才培养体系的薄弱，恰恰使它们更容易被AI的“幻觉”所伤害。当发达国家已经在讨论“如何让AI更负责任”时，许多发展中国家还在解决“如何不被AI误导”的基础问题。
**三、AI“幻觉”不是技术故障，而是系统缺陷**
很多人将此类事件归咎于AI的“幻觉”问题，认为这只是技术还不够成熟的表现。但更深层的问题是：我们是否过度信任了AI的输出？南非政策翻车事件中，最值得反思的不是AI本身，而是人类工作流程的崩塌。
任何负责任的学术或政策研究，都有一个铁律：引用必须可追溯、可验证。AI生成的参考文献，本质上只是语言模型对“一篇论文应该长什么样”的统计学模仿，它没有能力也无需对信息的真实性负责。当政策起草者将文献检索这一关键环节外包给AI，且放弃了人工核验的最后防线时，翻车就只是时间问题。
更值得警惕的是，这种“AI注水”现象正在全球蔓延。2024年，一项针对学术论文的抽查发现，已有数百篇经过同行评审的论文中出现了AI生成的虚假引用。在法律、医疗、金融等高风险领域，类似的案例正在以几何级数增长。AI不是恶魔，但人类对AI的盲目信任，正在成为这个时代最危险的技术风险之一。
**四、南非之后：全球AI治理需要“防幻觉机制”**
南非撤回AI政策，表面上是技术失误，实则是治理体系的一次压力测试。它向我们揭示了一个残酷的现实：AI治理的难度，远远超出我们的想象。
首先，AI治理本身正在被AI“污染”。如果连制定AI规则的人都无法分辨AI生成的信息真伪，那么规则本身的可信度从何而来？其次，这起事件将倒逼全球政策制定者建立更严格的“防幻觉机制”。未来，任何涉及AI的政策文件、法律条文或学术论文，可能都需要配备专门的“真实性审计”环节——就像财务审计一样，对每一个引用来源进行独立核查。
对于发展中国家而言，这更是一记警钟。AI不应该成为它们跳过基础能力建设的“跳板”，而应该成为提升治理质量的“工具”。南非政府需要反思的，不仅是某个工作人员的疏忽，更是整个政策制定流程中对技术风险的漠视。一个连参考文献都靠AI“编”的国家，如何让人相信它能制定出负责任的AI治理规则？
**五、结语：人类最后的防线**
南非AI政策的翻车，像一面镜子，照出了我们这个时代的集体焦虑：我们既渴望借助AI加速进步，又恐惧被AI的“幻觉”拖入深渊。AI可以生成论文、起草政策、撰写新闻，但它永远无法替代人类对真理的敬畏、对责任的担当。
当AI开始“编造”参考文献时，它不是在撒谎，而是在执行指令。真正撒谎的，是那些放弃思考、盲目信任的人类。在AI时代，保持怀疑、坚持验证、恪守学术伦理，或许才是人类最后的、也是最珍贵的防线。
**如果您对AI治理、技术伦理或数字政策有独到见解，欢迎在评论区分享您的思考。我们期待与您一起，在技术与人文的交汇处，寻找更负责任的未来路径。**