联合国秘书长古特雷斯曾指出，人工智能可以成为最强大的发展引擎，加速世界在从健康、饥饿到教育、气候等各个领域的进步，对于其可能造成的危害，也同样需要保持清醒认识。

7月初，联合国专家小组发布了首份关于人工智能机遇、风险及影响的全球性独立科学评估报告：《人工智能独立国际科学小组初步报告：基于证据的人工智能机遇、风险与影响评估》。报告概述了人工智能的发展趋势，并警告称，当前的保障措施难以跟上其发展步伐。以下是报告提出的部分风险。

国家间的技术发展鸿沟愈发明显

报告指出，全球每周有超过10亿人使用对话式人工智能，然而，人工智能的获取和使用在全球范围内差异巨大，全球南方国家远远落后于全球北方国家。2025年，全球已知规模最大的500个人工智能计算集群的算力中，美国占75%，中国占15%，其他地区仅占10%。此外，各发达经济体在人工智能计算基础设施和模型研发、专业人才培养与留存、人工智能治理和公共服务实力方面也存在巨大差异。这几项能力相互关联，且可能加剧现有的不平等——缺乏本国人工智能基础设施或人工智能测试能力的国家，可能会失去共同开发关键技术、塑造治理框架、影响新兴全球标准和留住人才的机遇，缺少人才的国家则会因此无法理解快速的技术变革，并相应地调整治理框架。

小众语言使用者存在被误导风险

人工智能对法律分析、医疗诊断、科学研究等领域都有非常积极的应用效果。例如，“阿尔法折叠”预测了超过2亿个蛋白质结构，相关数据目前已被300多万研究人员使用，加快了药物设计、疫苗研制和抗生素耐药性研究；资源匮乏地区的一线卫生工作者则可通过人工智能工具提供更优质的卫生保健服务。但需要注意的是——这些高效应用的前提往往是“使用英语或其他少数几种广泛使用的语言”。其他小众语言要么被排除在外，要么性能较差。例如，厄立特里亚和埃塞俄比亚北部有700万至900万人使用提格雷尼亚语，人工智能在使用该语言时，会将“已为静脉注射抗生素”译为“已为静脉注射杀虫剂”，这类误译可能影响医疗诊断和治疗决定，甚至危及生命。

儿童权益正在受到侵蚀

根据联合国儿童基金会的估计，全球至少有2000万儿童使用过人工智能，青少年采用该技术人数的增长速度是成年人的三倍多。在对儿童获取信息、接受教育和表达意见的权利产生积极影响的同时，人工智能也带来了多种伤害风险。报告显示，与未使用人工智能辅助的学生相比，使用标准对话式人工智能界面的学生短期练习成绩提高了48%，但在后续评估中，依赖无限制人工智能的学生表现欠佳，这表明他们产生了“能力错觉”，无法实现持久的学习效果。此外，相关调查显示，在11个全球南方国家中，约有120万儿童的图像被人用于深度伪造色情内容，而且这一数字正在以惊人的速度增长。

虚假信息与事实具有同等说服力

众所周知，用人工智能生成和传播文字及图像信息非常容易，区分原创内容与人工智能增强或生成内容的门槛也越来越高。不仅如此，大语言模型越来越擅长生成“说服力度”很高的文本。报告指出，在人工智能生成陈述中，有15%~40%被认为可能是错误信息，但这些虚假信息的“说服力度”并不低于真实陈述。日趋庞大的虚假信息规模正在破坏信息生态系统、侵蚀人们的认知，使人们逐渐丧失辨别真伪的能力，甚至出现颠倒黑白、凭空制造虚假“常识”的情况。然而，结合经合组织在23个国家开展的评估，报告发现，目前大多数国家并没有制定应对虚假信息的战略，且少数的战略框架也大多聚焦内容审查，而没有关注到人工智能的说服和操纵机制。

沉迷人工智能引发精神危机

报告指出，通用生成式人工智能被广泛用于心理健康领域，在能够证明其可靠性的领域内，人工智能可以帮助应对精神健康危机，但在缺乏监管的情况下，人工智能的“谄媚行为”（通过夸张的奉承来延长互动，创造情感依恋）尤其危险，可能助长偏执思维和自杀念头。研究显示，人工智能在9%的互动中输出了有害回应。近年来已经出现了一些针对人工智能伴侣和聊天机器人服务提供商的诉讼，这些案件中的人工智能被指未能恰当回应自杀意念，导致了青少年群体的死亡；诸如“人工智能精神病”（AI psychosis，指因长期、深度沉浸于和人工智能的互动中，而引发的一系列妄想、偏执、认知混乱现象）等新术语已进入相关讨论。

人工智能的治理能力极其欠缺

评价与衡量是实现有效人工智能治理的关键，然而全球都严重欠缺这方面的能力。各国政策制定者往往面临证据困境：要么在科学依据不足的情况下立即作出影响重大的人工智能治理决策，要么等证据齐备后再进行干预但为时已晚。当前全球已有40多种旨在将伦理和人权嵌入人工智能系统的治理工具，但它们各自为政且集中在企业层面，功能既不系统也不全面，实际效果也很少得到衡量。与此同时，报告警告，人工智能的能力发展速度快于治理能力发展，越来越多测试实验已发现人工智能可以系统性地误导人类或其他智能体。甚至，在危险性测试中，人工智能可能感知到自己正接受测试，并因此自主选择暂时降低自己的测试表现——也就是说，人工智能已能够主动对人类实施欺骗，这让人工智能治理挑战变得更加严峻。

参考链接：

UN. Preliminary Report of the Independent International Scientific Panel on AI

来源丨可持续发展经济导刊

文丨朱琳

图片来源于网络，如有侵权请联系删除