李志起 李 峥 沈 阳

编者的话：伴随着AI技术日新月异的发展，人类对AI的感受总是期待伴随着焦虑，惊叹夹杂着不安全感。近日，第二届全球人工智能（AI）安全峰会在韩国首尔召开，来自全球政治、经济、科技界人士再次聚首，共话AI安全相关话题。本次峰会距首届峰会召开和会议成果——《布莱奇利宣言》的签署发布仅过去半年。各国在担忧什么？有哪些AI安全议题值得关注？

潜在风险加深不安全感

李志起

“AI风险防范”始终是AI治理工作的重中之重。技术的“双刃剑效应”在AI领域尤为明显，它为我们带来便利的同时，诸多潜在风险也在不断加深作为普通用户的不安全感：从个人隐私泄露到算法偏见，再到无法预料的决策失误，对这些风险的担忧无处不在。正因如此，更为严格的风险评估机制、可执行性更高的风险防范措施、全球各国更及时的合作交流才显得更为重要。

风险防范之外，全球AI治理还涉及多个重要议题，它们共同构成了AI发展的多维框架。这些议题同样需要重点关注，具体如下：

首先是AI技术的伦理道德、标准规范以及创新发展等。在伦理道德方面，应推动制定全球通用的AI伦理准则，规范AI技术的研发和应用行为，确保其符合人类价值观和道德标准。在标准规范方面，各国应携手制定AI技术的国际标准和规范，以提升技术的互操作性和降低应用风险。同时，鼓励和支持AI技术的创新与发展也至关重要，通过政策引导、资金投入和人才培养等措施，推动AI技术在各个领域实现突破与进步。

其次，AI技术带来的就业与社会影响同样是我们必须正视的重要问题。随着AI技术的不断发展和普及，越来越多的传统岗位面临着被自动化取代的风险。这种取代不仅可能导致大量劳动力失业，还可能对社会的经济结构和稳定性造成深远影响。例如，一些重复性高、技能要求相对较低的工作岗位，如数据录入员、客服代表等，很可能会被智能机器人或自动化系统所替代。因此，在全球AI治理的进程中，各国政府必须高度关注AI技术对就业市场的具体影响。为了应对这些挑战，政府需要制定相应的政策和措施，旨在保障劳动者的合法权益，减轻因技术进步而带来的就业压力。这可能包括提供职业培训项目，以帮助工人提升技能，适应新的就业环境；创造更多与AI技术相关的新兴就业岗位，以吸纳因自动化而失业的劳动力；以及完善社会保障体系，为受影响的工人提供必要的生活保障。

再次，数据隐私与保护也应该成为全球AI治理中的重要议题。AI技术的训练和应用离不开大量数据，而数据的收集和使用往往涉及个人隐私保护的问题。因此，各国在参与全球人工智能治理时，应加强对数据隐私的保护，制定严格的数据安全法规，以防止数据泄露和滥用。（作者是北京市政协经济委员会副主任，振兴国际智库理事长）

发展中国家需要更多参与

李 峥

短短半年，西方主要国家政府及全球顶尖AI企业已两次专门就AI治理问题召开专门会议，体现出各国对于当前AI全球治理发展进度缓慢的担忧。近半年内，AI技术又出现了一些新的变化，主要体现在三方面。一是生成式AI持续高速发展，在多模态领域取得显著技术进步和应用发展。多模态的生成式AI意味着该技术能够在不同种类信息中自由切换，更自如地生成和理解数字社会和人类文明。AI生成的内容更加丰富和准确，这一进步将让生成式AI显著扩大其应用领域。与此同时，甄别AI生成内容的难度也在不断增加，信息伪造更加泛滥。如果缺乏更加严格的治理和标准，管控生成式AI不被滥用将成为不可能任务。

第二，先进AI越发广泛地运用于生物技术、化学材料、军事安全等实体领域，AI与制造业的结合正变得愈发紧密。这一趋势意味着AI的影响将不限于数字和虚拟空间，将成为一国生产力、军事工业能力以及前沿技术发展的倍增器。这场AI革命对于各国而言机遇和挑战并不相同。

三是AI产业开发的成本、基础条件和制约因素愈发清晰。近半年来，业界愈发关注AI产业化后对能源、水资源、人才、环境、硬件等领域的需求和影响。业界普遍认为，AI高能耗、需要巨大初始投入、后期迭代成本高的特点将难以发生变化。这意味着建设AI产业集群的门槛较高，大多数国家难以支撑初始研发或完全技术自主的成本。AI产业的未来极有可能仍然是中心化形态，即少数企业和国家在全球AI技术生态中处于无法替代的地位。这种情况让中等发达国家尤为担忧，担心该技术可能进一步拉大这些国家与主要大国之间的差距。

从首尔峰会的情况看，当前AI技术进步显著快于全球治理进度，AI安全主要依赖少数头部企业自身承诺，以及广大AI发展滞后国家的诉求未被充分接纳是困扰当前全球AI安全治理进程的三大问题。除了此次峰会上提出的所谓“底线原则”以及头部企业的承诺之外，全球AI治理更需要尽量包容采纳发展中国家的整体诉求，采取实际措施解决AI的发展鸿沟问题。该进程需要有更多发展中国家引领和参与。（作者是中国现代国际关系研究院美国研究所所长助理）

应对“超速技术综合征”

沈 阳

在AI如影随形的时代，公众对未来AI的安全性充满不确定和焦虑。机器是否会取代人类的工作？个人隐私是否能得到保护？AI的决策是否可控？从去年11月首届全球AI安全峰会到本周的第二届峰会，人们对AI技术的关注已从单模态内容生成（如文本数据）走到了多模态内容生成（如视频数据）。AI的发展可谓一浪高过一浪。这不仅仅是技术的跃进，更是一场全球性、人类共同应对挑战与机遇的双重奏。

在后现代社会的人类焦虑中，技术的发展速度正在超越社会和法规的适应能力，并引发伦理、安全及社会等层面的多维问题，针对这个现象，我们可以称之为：超速技术综合征。

在AI领域，“超速技术综合征”可具体投射在如下维度：比如，AI的快速迭代不仅重塑了商业模式，带来了前所未有的便捷，同时也暴露了数据安全、算法偏见及自动化引发的失业等问题。又如，AI的进步加速了数字鸿沟，技术红利和风险在全球范围内的不均衡分配，使得发达国家和技术巨头可能进一步扩大与发展中地区的差距。再如，技术发展的双刃剑效应日益明显，AI在优化资源分配、提高生产效率方面的积极作用不言而喻，然而它也可能导致资源分配不公、劳动力市场的动荡，等等。

如何应对“超速技术综合征”，为全球社会注入一针镇定剂？跨国合作和全球统一的行业标准制定显得尤为关键。全球合作与横跨政治、经济和商业实体之间的安全承诺，实质上是在为AI发展筑起了一道安全屏障，试图营造一个更可预测、更安全的技术生态，以减缓由技术引发的社会焦虑。以近期在首尔召开的AI安全峰会为例，本次发布的《首尔宣言》就指出，人工智能安全、创新、包容是相互关联的目标，国际社会有必要将其列为全球AI治理结构的首要议题。各方敦促通过以人为本的AI技术解决全球性难题，以增进民主、法治、人权、自由等价值，加大隐私保护力度，消除数字和AI鸿沟，提升人类福利水平。

消除“超速技术综合征”需要更多全球技术企业和政府之间的对话，也需要科技与社会的妥协与合作。通过国际间的协作，我们可以更有效地应对技术带来的挑战，确保AI成为推动人类社会进步的正能量。（作者是清华大学教授，跨学科知名学者）▲