Тактика поширення дезінформації: як вторгаються в мозок людини

• Автор:
• ім'я автора

  Quantumrun Foresight
• Жовтень 4, 2023

Короткий огляд

Дезінформація поширюється за допомогою таких тактик, як модель зараження та зашифровані програми. Такі групи, як Ghostwriter, націлені на війська НАТО та США, тоді як ШІ маніпулює громадською думкою. Люди часто довіряють знайомим джерелам, що робить їх сприйнятливими до неправдивої інформації. Це може призвести до збільшення кількості кампаній дезінформації на основі штучного інтелекту, суворішого державного регулювання, збільшення використання екстремістами зашифрованих додатків, посилення кібербезпеки в ЗМІ та освітніх курсів з боротьби з дезінформацією.

Тактика поширення дезінформаційного контексту

Тактика дезінформації – це інструменти та стратегії, які часто застосовуються на сайтах соціальних мереж, створюючи пандемію хибних переконань. Ця маніпуляція інформацією призвела до широкого розповсюдження непорозумінь щодо різних тем, починаючи від шахрайства виборців і закінчуючи реальністю насильницьких нападів (наприклад, стрілянина в початковій школі Сенді-Гук) або безпечністю вакцин. Оскільки фейкові новини продовжують поширюватися на різних платформах, це породило глибоку недовіру до соціальних інститутів, таких як ЗМІ. Одна з теорій того, як поширюється оманлива інформація, називається моделлю зараження, яка базується на принципі роботи комп’ютерних вірусів. Мережа створюється вузлами, які представляють людей, і краями, які символізують соціальні зв’язки. Концепція зароджується в одному «розумі» і поширюється за різних умов і залежно від соціальних відносин.

Не допомагає те, що технології та зростаюча цифровізація суспільства роблять тактику дезінформації ефективнішою, ніж будь-коли. Прикладом є програми для обміну зашифрованими повідомленнями (EMA), які не тільки полегшують передачу неправдивої інформації особистим контактам, але й унеможливлюють розробники додатків відстежувати повідомлення, які надсилаються. Наприклад, ультраправі групи перейшли до EMA після атаки на Капітолій США у січні 2021 року, оскільки основні соціальні медіа-платформи, такі як Twitter, заборонили їх. Тактика дезінформації має негайні та віддалені наслідки. Крім виборів, де сумнівні особи з кримінальним минулим перемагають через ферми тролів, вони можуть маргіналізувати меншини та сприяти пропаганді війни (наприклад, вторгнення Росії в Україну). 

Руйнівний вплив

У 2020 році охоронна компанія FireEye опублікувала звіт, у якому висвітлювала зусилля групи хакерів під назвою Ghostwriter з дезінформації. З березня 2017 року пропагандисти поширюють брехню, зокрема проти військового альянсу Організації Північноатлантичного договору (НАТО) та військ США в Польщі та країнах Балтії. Вони публікували сфальсифіковані матеріали в соціальних мережах і на проросійських новинних сайтах. Ghostwriter інколи використовував більш агресивний підхід: зламував системи керування контентом (CMS) новинних веб-сайтів, щоб публікувати власні історії. Потім група поширює свої фейкові новини, використовуючи фальшиві електронні листи, публікації в соціальних мережах і навіть написані ними статті на інших сайтах, які приймають вміст від читачів.

Інша тактика дезінформації використовує алгоритми та штучний інтелект (ШІ) для маніпулювання громадською думкою в соціальних мережах, наприклад, «розширення» підписників у соціальних мережах через ботів або створення автоматизованих облікових записів тролів для публікації ворожих коментарів. Експерти називають це обчислювальною пропагандою. Тим часом дослідження The New York Times виявило, що політики використовують електронну пошту для поширення дезінформації частіше, ніж люди усвідомлюють. У США обидві сторони винні у використанні гіпербол у своїх електронних листах виборцям, що часто може спонукати до поширення неправдивої інформації. 

Є кілька ключових причин, чому люди потрапляють на кампанії дезінформації. 

• По-перше, люди вчаться спілкуватися і схильні довіряти своїм джерелам інформації, таким як друзі чи члени родини. Ці люди, у свою чергу, отримують новини від надійних друзів, що ускладнює розрив цього циклу. 
• По-друге, люди часто не в змозі завчасно перевірити інформацію, яку вони споживають, особливо якщо вони звикли отримувати новини з одного джерела (часто традиційних ЗМІ чи їхніх улюблених соціальних мереж). такі платформи, як Facebook або Twitter). Коли вони бачать заголовок або зображення (і навіть просто брендинг), які підтверджують їхні переконання, вони часто не сумніваються в достовірності цих тверджень (якими б смішними вони не були). 
• Ехокамери — це потужні інструменти дезінформації, які автоматично перетворюють людей із протилежними переконаннями на ворогів. Людський мозок налаштований шукати інформацію, яка підтримує існуючі ідеї, і відкидати інформацію, яка суперечить їм.

Ширші наслідки тактики поширення дезінформації

Можливі наслідки тактики поширення дезінформації можуть включати: 

• Більше компаній, що спеціалізуються на штучному інтелекті та ботах, щоб допомогти політикам і пропагандистам отримати послідовників і «довіру» за допомогою хитромудрих кампаній з дезінформації.
• На уряди чиниться тиск з метою створення законів проти дезінформації та створення агентств для боротьби з фермами тролів і стратегами дезінформації.
• Збільшення завантажень EMA для екстремістських груп, які хочуть поширювати пропаганду та зруйнувати репутацію.
• Медіа-сайти, які інвестують у дорогі рішення кібербезпеки, щоб запобігти розміщенню хакерами дезінформації фейкових новин у їхніх системах. У цьому процесі модерування можна використовувати нові генеративні рішення ШІ.
• Генеративні боти на базі ШІ можуть бути використані поганими акторами для створення хвилі пропаганди та дезінформаційного медіаконтенту в масштабах.
• Посилення тиску на університети та громадські школи щодо включення курсів проти дезінформації. 

Питання для розгляду

• Як ви захищаєтеся від тактики дезінформації?
• Як ще уряди та установи можуть запобігти поширенню цієї тактики?