更安全的人工智能未来需要国际标准

DeepSeek是一款基于人工智能的聊天机器人，开发成本仅为ChatGPT等竞争对手的一小部分。尽管所有人都在关注DeepSeek令人震惊的发布后科技股的价格，但人们对于人工智能技术未知边界的忧虑却与日俱增。

2023年，在ChatGPT推出不久后，包括埃隆·马斯克在内的一些世界知名科技公司联名签署公开信，信中表达了人们担心人工智能可能失控并“对社会构成重大风险”，呼吁暂停人工智能开发六个月，这大大缓解了人们对人工智能潜力的担忧。几个月后，另一份由包括OpenAI首席执行官Sam Altman在内的数百名商业领袖和公众人物签署的声明警告称，人工智能可能会带来灭绝的风险。

政策制定者和人工智能开发人员已经在聚焦于降低人工智能风险，如偏见、版权、可持续性、深度伪造和虚假信息等问题，现阶段已有众多国际标准为之提供支持，例如IEC和ISO人工智能联合委员会SC 42的标准。但更长期的问题是马斯克本人所暗示的，他警告说“人工智能反乌托邦的路径确实存在，其中之一便是训练具有欺骗性的人工智能。”。这就涉及到通用人工智能（AGI）的概念，该技术可以违背开发者的初衷，被模型欺骗，最终挣脱人类的控制。

惠普人工智能和数字政策总监、人工智能政策国际思想领袖Anarkalee Perera指出：“我们既无法预知通用人工智能何时会到来，甚至对人工智能是什么也没有明确的定义。”。

“政策制定者面临的问题是，我们如何在基础人工智能安全框架方面取得进展，以便为AGI成为现实做好准备？”

Perera在IEC和ISO信息技术联合委员会JTC1最近举行的一次网络研讨会上发表了上述观点。Perera表示，尽管对于通用人工智能的定义存在诸多分歧，但一个较为可行的定义是：“通用人工智能指的是能够复制甚至超越人类认知能力的高度自主系统，涵盖推理、问题解决、感知、学习以及语言理解等方面。”

总体思路是，它就像具有超级智能能力的人工智能，可以解决跨领域的问题，其能力远远超出了人类。它有望实现革命性的科学突破，治愈以前无法治愈的疾病，解决被认为无法解决的问题。

Perera概述了自2022年以来人工智能系统如何取得重大技术进步，包括改进推理和扩展多模态能力。但与此同时，安全研究也揭示出人工智能存在被颠覆、渗透和欺骗的迹象。她指出，在管控偏见和国家安全等短期风险与AGI潜力等长期生存风险之间存在明显的矛盾。而在这一过程中，标准发挥着至关重要的作用。

“倘若我们要在国际人工智能治理领域开展合作，要在通用人工智能方面实现各国协同，就需要共享切实可行的概念定义，这些定义将为模型、风险评估以及缓解策略的比较提供支撑。”

她强调，标准制定机构能够通过提供基础术语、开发可互操作的风险评估框架以及加快人工智能安全领域现有工作的推进，在推动通用人工智能发展与评估方面发挥积极作用。

通用人工智能是 JTC 1 前瞻性研讨会上探讨的众多新兴技术之一。其他研讨主题还包括跨境数据流、可持续信息通信技术以及 JTC 1 新兴技术与创新（JETI）的持续性工作。