量子运行

图片来源：

iStock

传播虚假信息的策略：人脑如何被入侵

从使用机器人到在社交媒体上充斥假新闻，虚假信息策略正在改变人类文明的进程。

作者：
作者姓名
量子运行远见
2023 年 10 月 4 日

洞察总结

错误信息正在通过传染模型和加密应用程序等策略传播。 Ghostwriter 等组织的目标是北约和美军，而人工智能则操纵公众舆论。人们往往信任熟悉的来源，这使他们容易受到虚假信息的影响。这可能会导致更多基于人工智能的虚假信息活动、更严格的政府监管、极端分子更多地使用加密应用程序、加强媒体网络安全以及打击虚假信息的教育课程。

传播虚假信息的策略

错误信息策略是社交网站上经常应用的工具和策略，造成错误信念的流行。这种信息操纵导致了对选民欺诈、暴力袭击是否真实（例如桑迪胡克小学枪击事件）或疫苗是否安全等话题的广泛误解。随着假新闻继续在不同平台上分享，人们对媒体等社会机构产生了深深的不信任。关于误导性信息如何传播的一种理论称为传染模型，它基于计算机病毒的工作原理。网络是由代表人的节点和象征社会联系的边创建的。一个概念在一个“头脑”中播种，并在各种条件下并根据社会关系传播。

技术和社会日益数字化使错误信息策略比以往任何时候都更加有效，这无济于事。一个例子是加密消息应用程序 (EMA)，它不仅有助于向个人联系人共享虚假信息，而且还使应用程序公司无法跟踪共享的消息。例如，2021 年 XNUMX 月美国国会大厦袭击事件后，极右翼团体转移到 EMA，因为 Twitter 等主流社交媒体平台禁止他们。虚假信息策略会产生直接和长期的后果。除了有犯罪记录的可疑人物通过巨魔农场获胜之外，他们还可以边缘化少数群体并促进战争宣传（例如，俄罗斯入侵乌克兰）。

破坏性影响

2020 年，安全公司 FireEye 发布了一份报告，强调了一群名为 Ghostwriter 的黑客的虚假信息活动。自 2017 年 XNUMX 月以来，宣传者一直在散布谎言，特别是针对北大西洋公约组织 (NATO) 军事联盟以及驻波兰和波罗的海的美军。他们在社交媒体和亲俄罗斯新闻网站上发布了伪造材料。代笔作家有时会采用更激进的方法：侵入新闻网站的内容管理系统（CMS）来发布自己的故事。然后，该组织使用虚假电子邮件、社交媒体帖子，甚至他们在接受读者内容的其他网站上撰写的专栏文章来传播假新闻。

另一种虚假信息策略使用算法和人工智能（AI）来操纵社交媒体上的舆论，例如通过机器人“增加”社交媒体关注者或创建自动巨魔帐户来发布仇恨评论。专家称之为计算宣传。与此同时，《纽约时报》的研究发现，政客使用电子邮件传播虚假信息的频率比人们意识到的要多。在美国，两党都在发给选民的电子邮件中使用夸张的说法，这往往会鼓励分享虚假信息。

人们陷入错误信息活动有几个关键原因。

首先，人们是社会学习者，倾向于信任他们的信息来源，例如朋友或家人。反过来，这些人从可信赖的朋友那里获取消息，从而很难打破这个循环。
其次，人们常常无法主动对他们所消费的信息进行事实核查，尤其是当他们习惯于从一个来源（通常是传统媒体或他们最喜欢的社交媒体）获取新闻时 Facebook 或 Twitter 等平台）。当他们看到支持他们信念的标题或图像（甚至只是品牌）时，他们通常不会质疑这些主张的真实性（无论多么荒谬）。
回声室是强大的虚假信息工具，会自动将持有相反信仰的人变成敌人。人类的大脑天生就会寻找支持现有想法的信息，并忽视那些反对现有想法的信息。