应对错误信息和深度伪造

当我还是个小男孩的时候，学校老师给我们看了一些据称是仙女在约克郡一个后花园里和两个年轻女孩玩耍的照片。这些拍摄于 1917 年至 1920 年间的照片，确实把我骗到了，我猜我的很多同学也一样。

你可能会觉得五岁的孩子不是最有辨别力的观众，但不管怎样，我们并不孤单。被所谓的科廷利仙女照片骗到的人当中，竟然有夏洛克・福尔摩斯的创作者 —— 阿瑟・柯南・道尔爵士。

事实上，据各方说法，1917 年曾有一场热烈的公众辩论。为了解决这个问题，有人把这些照片寄给了柯达公司以获取专业意见。不幸的是，柯达的鉴定专家找不到这些照片是伪造的证据，许多人，包括成年男女， 仍然相信他们所看到的，认为这是超自然现象的确凿证据。

人工智能与多媒体标准协作

快进到2025年，我们发现自己也处于类似的境地。不过，如今不是无聊的女学生伪造的仙女照片，而是人工智能生成的深度伪造内容，这些内容正混淆和分化着公众舆论。

如今的虚假媒体图像比科廷利的照片危险得多，而且同样难以揭穿。国际标准带来了希望，其中有一项特别的标准，名为 “JPEG 信任”（JPEG Trust），它已经是鉴定某些类型内容真实性的有力工具，但我们还需要更多这样的标准。

出于这个原因，世界标准合作组织（国际电工委员会 IEC、国际标准化组织 ISO、国际电信联盟 ITU）去年设立了一个全球性的、多利益相关方参与的倡议，以应对这一挑战。人工智能与多媒体标准协作项目汇聚了标准制定者、技术领军者、政策制定者和民间社会，共同对抗深度伪造、错误信息以及对人工智能生成媒体的滥用。

在这个协作框架内，技术专家目前正在绘制标准图谱。他们的任务是找出存在标准空白的领域，这些领域目前缺乏支持政府、行业和其他利益相关方想要实施的政策所需的标准。

与此同时，政策专家专注于研究政府政策与标准之间的相互作用，以及确定为政策制定提供参考的最佳实践。

该协作项目的第三个目标是让各利益相关方了解这一挑战的规模，并揭示不同部门是如何进行反击的，以及标准所发挥的作用。

在即将举行的网络研讨会 “应对媒体中的错误信息和深度伪造” 上，知名专家将探讨新闻编辑室、社交平台和民间社会组织如何对抗虚假媒体。他们将审视现实世界中产生的后果，以及恢复对在线内容信任所需的工具、政策和标准。

为什么现在这件事比以往任何时候都重要

1917 年，科廷利仙女照片只是一件奇闻轶事。如今，深度伪造内容可以在瞬间左右选举结果、煽动暴力并毁掉一个人的声誉。

风险从未如此之高。