تاکتیک های انتشار اطلاعات نادرست: چگونه مغز انسان مورد تهاجم قرار می گیرد

• نویسنده:
• نام نویسنده

  آینده نگاری کوانتوم ران
• اکتبر 4، 2023

خلاصه بینش

اطلاعات نادرست از طریق تاکتیک هایی مانند مدل سرایت و برنامه های رمزگذاری شده منتشر می شود. گروه هایی مانند Ghostwriter نیروهای ناتو و ایالات متحده را هدف قرار می دهند، در حالی که هوش مصنوعی افکار عمومی را دستکاری می کند. مردم اغلب به منابع آشنا اعتماد می کنند و آنها را مستعد اطلاعات نادرست می کند. این امر می‌تواند منجر به کمپین‌های اطلاعات نادرست مبتنی بر هوش مصنوعی، قوانین قوی‌تر دولتی، افزایش استفاده از برنامه‌های رمزگذاری‌شده توسط افراط‌گرایان، افزایش امنیت سایبری در رسانه‌ها و دوره‌های آموزشی برای مبارزه با اطلاعات نادرست شود.

تاکتیک های انتشار متن اطلاعات نادرست

تاکتیک‌های اطلاعات نادرست ابزارها و استراتژی‌هایی هستند که اغلب در سایت‌های شبکه‌های اجتماعی اعمال می‌شوند و باعث ایجاد یک بیماری همه‌گیر از باورهای نادرست می‌شوند. این دستکاری اطلاعات منجر به سوء تفاهم گسترده در مورد موضوعات مختلف از تقلب در رأی دهندگان گرفته تا اینکه آیا حملات خشونت آمیز واقعی هستند (مثلاً تیراندازی در مدرسه ابتدایی سندی هوک) یا ایمن بودن واکسن ها منجر شده است. از آنجایی که اخبار جعلی همچنان در پلتفرم های مختلف به اشتراک گذاشته می شود، بی اعتمادی عمیقی علیه نهادهای اجتماعی مانند رسانه ها ایجاد کرده است. یکی از تئوری‌های نحوه انتشار اطلاعات گمراه‌کننده، Contagion Model نام دارد که بر اساس نحوه عملکرد ویروس‌های رایانه‌ای است. یک شبکه توسط گره هایی که افراد را نشان می دهند و لبه هایی که نماد پیوندهای اجتماعی هستند ایجاد می شود. یک مفهوم در یک «ذهن» بذر می‌یابد و تحت شرایط مختلف و بسته به روابط اجتماعی گسترش می‌یابد.

این کمکی نمی کند که فناوری و دیجیتالی شدن روزافزون جامعه به مؤثرتر شدن تاکتیک های اطلاعات نادرست از همیشه کمک می کند. به عنوان مثال، برنامه‌های پیام‌رسانی رمزگذاری‌شده (EMAs) هستند که نه تنها اشتراک‌گذاری اطلاعات نادرست با مخاطبین شخصی را تسهیل می‌کنند، بلکه ردیابی پیام‌های به اشتراک‌گذاشته شده را برای شرکت‌های برنامه غیرممکن می‌سازند. به عنوان مثال، گروه های راست افراطی پس از حمله ژانویه 2021 به کنگره ایالات متحده به EMA منتقل شدند زیرا پلتفرم های رسانه های اجتماعی اصلی مانند توییتر آنها را ممنوع کردند. تاکتیک های اطلاعات نادرست پیامدهای فوری و بلندمدت دارند. جدای از انتخاباتی که در آن شخصیت‌های مشکوک با سوابق جنایی از طریق مزارع ترول‌ها برنده می‌شوند، آنها می‌توانند اقلیت‌ها را به حاشیه رانده و تبلیغات جنگ را تسهیل کنند (مثلاً حمله روسیه به اوکراین). 

تاثیر مخرب

در سال 2020، شرکت امنیتی FireEye گزارشی منتشر کرد که در آن تلاش‌های گروهی از هکرها به نام Ghostwriter برای اطلاعات نادرست را برجسته کرد. از مارس 2017، مبلغان به‌خصوص علیه اتحاد نظامی سازمان پیمان آتلانتیک شمالی (ناتو) و نیروهای آمریکایی در لهستان و بالتیک، دروغ‌هایی را منتشر می‌کنند. آنها مطالب جعلی را در رسانه های اجتماعی و وب سایت های خبری طرفدار روسیه منتشر کرده اند. Ghostwriter گاهی اوقات از یک رویکرد تهاجمی تر استفاده می کند: هک کردن سیستم های مدیریت محتوای (CMS) وب سایت های خبری برای ارسال داستان های خود. سپس این گروه اخبار جعلی خود را با استفاده از ایمیل‌های جعلی، پست‌های رسانه‌های اجتماعی و حتی نوشته‌های نوشته شده توسط آنها در سایت‌های دیگری که محتوای خوانندگان را می‌پذیرند، توزیع می‌کند.

یکی دیگر از تاکتیک های اطلاعات نادرست از الگوریتم ها و هوش مصنوعی (AI) برای دستکاری افکار عمومی در رسانه های اجتماعی استفاده می کند، مانند "تقویت" دنبال کنندگان رسانه های اجتماعی از طریق ربات ها یا ایجاد حساب های ترول خودکار برای ارسال نظرات نفرت انگیز. کارشناسان این را تبلیغات محاسباتی می نامند. در همین حال، تحقیقات نیویورک تایمز نشان داد که سیاستمداران بیشتر از آنچه مردم تصور می کنند از ایمیل برای انتشار اطلاعات نادرست استفاده می کنند. در ایالات متحده، هر دو طرف در استفاده از هذل در ایمیل‌های خود به شرکت کنندگان مقصر هستند، که اغلب می‌تواند به اشتراک‌گذاری اطلاعات نادرست را تشویق کند. 

چند دلیل کلیدی وجود دارد که چرا مردم در کمپین های اطلاعات غلط قرار می گیرند. 

• اولاً، افراد یادگیرنده اجتماعی هستند و تمایل دارند به منابع اطلاعاتی خود مانند دوستان یا اعضای خانواده اعتماد کنند. این افراد نیز به نوبه خود اخبار خود را از دوستان قابل اعتماد دریافت می کنند و شکستن این چرخه را دشوار می کند. 
• ثانیاً، مردم اغلب در بررسی فعالانه اطلاعاتی که مصرف می‌کنند شکست می‌خورند، به‌ویژه اگر عادت داشته باشند اخبار خود را از یک منبع (اغلب رسانه‌های سنتی یا رسانه‌های اجتماعی مورد علاقه‌شان) دریافت کنند. پلتفرم هایی مانند فیس بوک یا توییتر). وقتی تیتر یا تصویری (و حتی فقط برندسازی) را می بینند که از اعتقادات آنها پشتیبانی می کند، اغلب صحت این ادعاها را زیر سوال نمی برند (هرچقدر هم مضحک). 
• اتاق‌های پژواک ابزارهای قدرتمندی برای اطلاع‌رسانی نادرست هستند که به‌طور خودکار افراد با عقاید مخالف را به دشمن تبدیل می‌کنند. مغز انسان برای جستجوی اطلاعاتی است که از ایده‌های موجود پشتیبانی می‌کند و اطلاعاتی را که مخالف آن‌ها است، کاهش می‌دهد.

پیامدهای گسترده تر تاکتیک های انتشار اطلاعات نادرست

پیامدهای احتمالی تاکتیک های انتشار اطلاعات نادرست ممکن است شامل موارد زیر باشد: 

• شرکت‌های متخصص بیشتری در هوش مصنوعی و ربات‌ها برای کمک به سیاستمداران و مبلغان برای کسب پیروان و «اعتبار» از طریق کمپین‌های اطلاعات نادرست هوشمندانه.
• دولت ها برای ایجاد قوانین و آژانس های ضد اطلاعات نادرست برای مبارزه با مزارع ترول ها و استراتژیست های اطلاعات نادرست تحت فشار هستند.
• افزایش دانلود EMA برای گروه‌های افراطی که می‌خواهند تبلیغ کنند و شهرت را از بین ببرند.
• سایت‌های رسانه‌ای که روی راه‌حل‌های گران‌قیمت سایبری سرمایه‌گذاری می‌کنند تا از هکرهای اطلاعات نادرست از کاشت اخبار جعلی در سیستم‌های خود جلوگیری کنند. راه‌حل‌های جدید هوش مصنوعی ممکن است در این فرآیند تعدیل استفاده شود.
• ربات‌های مولد مبتنی بر هوش مصنوعی ممکن است توسط بازیگران بد برای تولید موجی از محتوای تبلیغاتی و اطلاعات نادرست رسانه‌ای در مقیاس استفاده شوند.
• افزایش فشار برای دانشگاه ها و مدارس محلی برای گنجاندن دوره های ضد اطلاعات نادرست. 

سوالاتی که باید در نظر گرفته شود

• چگونه از خود در برابر تاکتیک های اطلاعات نادرست محافظت می کنید؟
• چگونه دولت ها و سازمان ها می توانند از گسترش این تاکتیک ها جلوگیری کنند؟