如何解决先进人工智能可能带来的风险？元战略梳理人工智能安全领域最新研究成果，探讨社会技术方法在其中的积极作用。研究指出，为真正实现人工智能安全，在考虑人工智能技术的同时，还需考虑其与社会、政治和文化的互动影响。此外，还需通过跨学科合作，吸纳多方意见，并对人工智能安全的相关问题展开公开讨论。

最新大语言模型的快速、广泛应用让人们对先进人工智能的到来感到既兴奋又担忧。为此，许多人开始在人工智能安全领域寻找答案。大型人工智能公司在削减抵御当前人工智能系统危害的“信任与安全”团队的同时，也在对人工智能安全研究项目进行大量投资。各国政府也紧跟步伐，英国投资1亿英镑成立人工智能特别工作组，并于2023年召开首届人工智能安全峰会。然而，随着研究重点的确定，当前人工智能安全的技术议程不足以解决关键问题，只有社会技术方法（sociotechnical approach）才能真正限制先进人工智能当前和潜在的危险。

一

为什么需要关注人工智能安全？

大型科技公司疲于应对负面报道，正抓住机会将自身打造为算法危害的拯救者，而不是算法危害的加害者。社会技术方法识别并反对“安全洗白”（safety-washing），即口头表示人工智能系统是安全的，却没有对此进行必要的承诺和实践行动，以及呼吁透明度和问责制来保证公司诚信。

二

确保人工智能系统安全意味着什么

为此必须采用哪些价值观和方法？

确保人工智能系统安全是否与“人机对齐”（alignment）有关，即确保人工智能的部署符合设计者的某些意图？还是仅仅为了防止先进人工智能毁灭人类？这些目标显然是不够的。一个能够毁灭人类的人工智能系统，即使我们设法阻止它这样做，它仍将是人类有史以来最强大的技术之一，因此，人工智能系统需要符合更丰富的价值观和意图。而在这种强大的“失控的”人工智能系统被制造出来之前，还会有许多其他的人工智能系统被制造出来，人们会为了自身利益而不顾危险地使用这些人工智能系统。多年的社会技术研究表明，先进的数字技术如果不加以控制，就会被用来追求权力和利益，而牺牲人权、社会正义。确保先进人工智能安全也意味着理解和减少这些价值观的风险。社会技术方法强调，任何专家小组（特别是技术专家）都不应单方面决定哪些风险算数、哪些危害重要，以及安全的人工智能应符合哪些价值观。要确保人工智能的安全，必须就所有上述问题以及我们是否应该尝试构建所谓的“超越人类的”人工智能系统展开紧迫的公开讨论。

三

如何确保人工智能系统的安全？

仅靠单一的技术方法远远不够。相反，人工智能的应用必须在更广泛的社会技术体系（sociotechnical systems）中有针对性的进行考量，因为人工智能始终嵌入在社会技术体系之中。这意味着需要从政治经济学的视角考虑人工智能，并认识到过度关注假想的未来危害可能会巩固少数大型科技公司的权力，从而使当前的重大挑战得不到解决。需要强调用于制造先进人工智能系统的稀缺环境资源、被征用的数据和被剥削的劳动力。需要考虑如何使用先进的人工智能，并了解人和社会，而不仅仅是技术。需要优先考虑针对实际的人工智能系统及其带来的风险开展以经验为基础的工作，而不是为尚不存在的系统设计技术风险缓解措施（也许是不可能完成的任务）。

四

谁来定义人工智能安全？

狭义的人工智能技术安全领域缺乏多样化的意识形态和人口结构，它近乎源于单一的文化，因此不足以达到其使命所要求的知识广度和严谨性。人工智能领域的从业者多数为白人、男性和占据优势地位的人士，他们往往来自美国硅谷的“有效利他主义”（Effective Altruism）和“理性主义”（Rationalism）群体。社会技术方法可以抵制这些结构性失衡，为人们更广泛的参与其中创造必要的空间，在平等关怀（equal concern）和共同人性（common humanity）的基础上引导我们技术的未来。这不仅是道德义务的要求，也是理解人工智能风险和建立有效解决方案的关键。女性和有色人种的研究者和倡导者在揭示和减轻新技术带来的危害方面都起到了带头作用，然而，她们相对被排除在人工智能安全领域之外。

五

结语

面对令人困惑的技术变革时，人们本能地向技术专家寻求解决方案。但是，先进人工智能带来的问题不能仅仅通过技术手段来缓解，缺乏更广泛的社会洞察力的解决方案只会加剧我们面临人工智能的危险。为了真正确保人工智能安全，社会需要采用社会技术方法来解决人工智能安全问题。

免责声明：本文转自元战略。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er