合成媒体谎言：眼见不再可信

• 作者：
• 作者姓名

  量子运行远见
• 2024 年 2 月 22 日

洞察总结

合成媒体将人工智能 (AI) 与视频、音频和视觉元素融合在一起，非常逼真，很难与实际媒体区分开来。它的发展可以追溯到几十年前，深度学习（DL）和生成对抗网络（GAN）在其发展中发挥了关键作用。随着这项技术的发展，它带来了创造性的机会，也带来了重大的隐私、道德和错误信息挑战。

合成媒体虚假背景

合成媒体代表了人工智能生成内容的突破性组合，包括先进技术框架内的实时视频、视觉元素和音频。这种媒体形式的特点是其卓越的真实性和身临其境的品质，使其与现实世界的媒体几乎没有区别。合成媒体的创建可以追溯到 1950 世纪 1980 年代，随着计算能力的激增，在 1990 世纪 XNUMX 年代末和 XNUMX 年代初经历了重大演变。 

深度学习是驱动合成媒体的核心技术，合成媒体是机器学习 (ML) 的一个复杂分支。 GAN 在这个领域特别有影响力，它通过从现有图像中学习来生成全新但极其真实的图像，从而彻底改变了该领域。 GAN 使用双神经网络系统进行操作：一个网络根据真实图像生成假图像，而另一个网络评估其真实性，从而突破了计算机视觉和图像处理的可能性界限。

随着人工智能的不断快速发展，合成媒体的应用和影响变得越来越重要。虽然这些技术进步为电子游戏、自动驾驶汽车和面部识别等各个领域的创新打开了大门，但它们同时也带来了对隐私和道德的紧迫担忧。因此，合成媒体的未来是一把双刃剑，它为创造力和创新提供了巨大的潜力，同时也挑战我们解决其道德和隐私相关的影响。

破坏性影响

非营利性兰德公司在 2022 年进行的一项研究讨论了合成媒体的四个主要风险：通过捏造候选人视频操纵选举、通过放大宣传和党派内容加剧社会分歧、通过虚假代表权威人物削弱对机构的信任、并通过质疑合法新闻的真实性来破坏新闻业。这些深度造假在教育水平较低、民主制度脆弱和种族间冲突普遍存在的发展中国家尤其具有破坏性。错误信息在这些地区已经是一个严重问题，深度造假可能会加剧争端和暴力，正如缅甸、印度和埃塞俄比亚等国过去发生的事件所示。此外，分配给美国以外的内容审核的资源有限，尤其是在 WhatsApp 等平台上，增加了这些领域中深度造假未被发现的风险。

鉴于色情内容中的性别差异，深度假货还对女性构成独特的威胁。人工智能生成的媒体已被用来制作未经同意的深度伪造色情内容，从而导致滥用和剥削。这些技术还可能通过针对情报人员、政治候选人、记者和领导人进行尴尬或操纵来带来安全风险。历史上的例子，例如俄罗斯支持的针对乌克兰议员斯维特拉娜·扎利什丘克的虚假信息运动，表明了此类攻击的可能性。

科学界对深度造假的社会影响的理解仍在不断发展，研究对用户检测这些视频及其影响的能力提供了不同的结果。一些研究表明，人类可能比机器更擅长检测深度造假，但这些视频通常被认为生动、有说服力且可信，增加了它们在社交媒体上传播的可能性。然而，深度造假视频对信仰和行为的影响可能小于预期，这表明对其说服力的担忧可能有些为时过早。 

合成媒体谎言的影响

合成媒体谎言的更广泛影响可能包括： 

• 数字内容认证技术的增强，导致验证媒体真实性的方法更加复杂。
• 学校对数字素养教育的需求增加，使后代具备批判性分析媒体的技能。
• 新闻标准发生变化，需要对多媒体内容进行更严格的验证流程以保持可信度。
• 扩大解决数字内容操纵问题的法律框架，更好地防止错误信息。
• 由于在创建深度伪造品时可能滥用面部识别和个人数据，因此增加了个人隐私风险。
• 开发专门从事深度伪造检测和预防的新市场领域，创造就业机会和技术进步。
• 政治竞选活动采取更严格的媒体监控措施，以减轻虚假内容对选举的影响。
• 广告和营销策略发生变化，更加注重内容的真实性和可验证性，以维持消费者的信任。
• 由于现实但虚假的内容传播，心理影响增加，可能影响心理健康和公众认知。
• 随着深度造假成为地缘政治战略的工具，国际关系动态发生变化，影响外交和全球信任。

需要考虑的问题

• 合成媒体如何影响您对时事的看法？
• 深度造假技术的发展如何影响言论自由与防止错误信息和滥用的监管需求之间的平衡？