全球专家希望更容易发现虚假媒体

虚假媒体并非新鲜事物，然而生成式人工智能与深度伪造的迅猛发展使得人们愈发难以分辨何为可信内容、何为不可信内容。一项新的国际合作有望让虚假内容更容易被识别，该合作汇聚了人工智能以及多媒体真实性领域的顶尖专家。

历史当中充斥着虚假媒体。任何心存疑虑之人都应当读一读莎士比亚的作品，或者看一看理查三世的肖像，那些肖像将英国国王描绘成一个身形扭曲变形的驼背之人，有着狭窄黝黑的眼睛以及薄而残忍的嘴唇。

多亏了现代扫描技术，我们现在知道这些画被都铎王朝的宣传者篡改了，创造了莎士比亚所说的邪恶的怪物，一只有毒的束背蟾蜍。根据理查德三世的头骨进行的面部重建显示，他看起来更为好看，而他的骨骼照片显示，虽然他身材矮小，但他的背部并无驼背。

如果我们能应用技术来揭露互联网上虚假媒体的真相呢？这便是在人工智能水印、多媒体真实性以及深度伪造检测技术国际标准方面新的多利益相关方合作背后的理念。参与者包括三个国际标准制定组织，即ISO、IEC和ITU，以及内容真实性倡议（CAI）和内容来源与真实性联盟（C2PA）等组织。

该倡议启动之际，一项新的研究表明，美国普遍担忧错误信息会对2024年总统选举产生影响。在Adobe的调查中，近90%的受访者表示，生成式人工智能的兴起使在线区分事实和虚构变得更加困难。

这提醒我们其中的利害关系重大。Adobe研究强调了虚假媒体如何侵蚀了人们对信誉良好的媒体来源的信任，以及对公众舆论的操纵和对社会稳定所构成的威胁。

人们常常忽略的是，虚假媒体也会伤害普通民众。深度伪造损害了声誉，造成了情绪困扰，并导致了经济损失。

《人工智能和多媒体真实性标准（AMAS）倡议》正在应对我们这个时代最紧迫的威胁之一。Adobe的报告反映了这种紧迫性，该报告发现，绝大多数人支持用归因细节标记所有媒体，以确定哪些媒体是值得信赖的。