傳播假訊息的策略：人腦如何被入侵

• 作者：
• 作者姓名

  量子運行遠見
• 2023 年 10 月 4 日

洞察總結

錯誤訊息正在透過傳染模型和加密應用程式等策略傳播。 Ghostwriter 等組織的目標是北約和美軍，而人工智慧則操縱公眾輿論。 人們往往信任熟悉的來源，這使他們容易受到虛假資訊的影響。 這可能會導致更多基於人工智慧的虛假資訊活動、更嚴格的政府監管、極端分子更多地使用加密應用程式、加強媒體網路安全以及打擊虛假資訊的教育課程。

傳播假訊息的策略

錯誤訊息策略是社群網站上經常被應用的工具和策略，造成錯誤信念的流行。 這種資訊操縱導致了對選民欺詐、暴力攻擊是否真實（例如桑迪胡克小學槍擊事件）或疫苗是否安全等主題的廣泛誤解。 隨著假新聞繼續在不同平台上分享，人們對媒體等社會機構產生了深深的不信任。 關於誤導性資訊如何傳播的一種理論稱為傳染模型，它基於電腦病毒的工作原理。 網路是由代表人的節點和象徵社會連結的邊所創造的。 一個概念在一個「頭腦」中播種，並在各種條件下並根據社會關係傳播。

科技和社會日益數位化使錯誤訊息策略比以往任何時候都更加有效，這無濟於事。 一個例子是加密訊息應用程式 (EMA)，它不僅有助於向個人聯絡人分享虛假訊息，而且還使應用程式公司無法追蹤正在共享的訊息。 例如，2021 年 XNUMX 月美國國會大廈襲擊事件後，極右翼團體轉移到 EMA，因為 Twitter 等主流社群媒體平台禁止他們。 虛假資訊策略會產生直接和長期的後果。 除了有犯罪記錄的可疑人士透過巨魔農場獲勝的選舉之外，他們還可以邊緣化少數群體並促進戰爭宣傳（例如，俄羅斯入侵烏克蘭）。 

破壞性影響

2020 年，安全公司 FireEye 發布了一份報告，強調了一群名為 Ghostwriter 的駭客的假訊息活動。 自 2017 年 XNUMX 月以來，宣傳者一直在散佈謊言，特別是針對北大西洋公約組織 (NATO) 軍事聯盟以及駐波蘭和波羅的海的美軍。 他們在社群媒體和親俄羅斯新聞網站上發布了偽造資料。 代筆作家有時會採用更激進的方法：入侵新聞網站的內容管理系統（CMS）來發布自己的故事。 然後，該組織使用虛假電子郵件、社交媒體帖子，甚至他們在接受讀者內容的其他網站上撰寫的專欄文章來傳播假新聞。

另一種虛假資訊策略使用演算法和人工智慧（AI）來操縱社交媒體上的輿論，例如透過機器人「增加」社交媒體追蹤者或創建自動巨魔帳戶來發布仇恨評論。 專家稱之為計算宣傳。 同時，《紐約時報》的研究發現，政客使用電子郵件傳播假訊息的頻率比人們意識到的要多。 在美國，兩黨都在發給選民的電子郵件中使用誇張的說法，這往往會鼓勵分享假訊息。 

人們陷入錯誤訊息活動有幾個關鍵原因。 

• 首先，人們是社會學習者，傾向於信任他們的資訊來源，例如朋友或家人。 反過來，這些人從可信賴的朋友那裡獲取消息，很難打破這個循環。 
• 其次，人們常常無法主動對他們所消費的資訊進行事實核查，尤其是當他們習慣於從一個來源（通常是傳統媒體或他們最喜歡的社交媒體）獲取新聞時 Facebook 或 Twitter 等平台）。 當他們看到支持他們信念的標題或圖像（甚至只是品牌）時，他們通常不會質疑這些主張的真實性（無論多麼荒謬）。 
• 迴聲室是強大的假訊息工具，會自動將持有相反信仰的人變成敵人。 人類的大腦天生就會尋找支持現有想法的訊息，並忽略那些反對現有想法的訊息。

傳播虛假訊息的策略的更廣泛影響

傳播假訊息的策略可能產生的影響可能包括： 

• 更多專注於人工智慧和機器人的公司幫助政客和宣傳人員透過巧妙的假訊息活動贏得追隨者和「可信度」。
• 各國政府被迫制定反虛假資訊法律和機構，以打擊巨魔農場和虛假資訊策略家。
• 那些想要傳播宣傳和破壞聲譽的極端主義團體的 EMA 下載量不斷增加。
• 媒體網站投資昂貴的網路安全解決方案，以防止虛假資訊駭客在其係統中植入假新聞。 在此調節過程中可以採用新穎的生成式人工智慧解決方案。
• 不良行為者可能會利用生成式人工智慧驅動的機器人大規模地製造一波宣傳和假訊息媒體內容。
• 大學和社區學校開設反假資訊課程的壓力越來越大。 

需要考慮的問題

• 您如何保護自己免受虛假資訊策略的侵害？
• 政府和機構還能如何防止這些策略的傳播？