허위정보를 퍼뜨리는 전술: 인간의 뇌는 어떻게 침해받는가

• 저자:
• 저자 이름

  퀀텀런 예측
• 2023 년 10 월 4 일

인사이트 요약

잘못된 정보는 전염 모델(Contagion Model) 및 암호화된 앱과 같은 전술을 통해 확산되고 있습니다. Ghostwriter와 같은 그룹은 NATO와 미군을 표적으로 삼고 AI는 여론을 조작합니다. 사람들은 흔히 친숙한 출처를 신뢰하므로 잘못된 정보에 노출되기 쉽습니다. 이는 더 많은 AI 기반 허위 정보 캠페인, 더 강력한 정부 규제, 극단주의자들의 암호화된 앱 사용 증가, 미디어의 사이버 보안 강화, 허위 정보 퇴치를 위한 교육 과정으로 이어질 수 있습니다.

허위 정보 맥락을 확산시키는 전술

잘못된 정보 전술은 소셜 네트워킹 사이트에 자주 적용되는 도구이자 전략으로, 잘못된 믿음이 널리 퍼지게 만듭니다. 이러한 정보 조작으로 인해 유권자 사기부터 폭력 공격이 실제인지(예: 샌디훅 초등학교 총격 사건) 또는 백신이 안전한지 여부에 이르기까지 다양한 주제에 대한 광범위한 오해가 발생했습니다. 가짜 뉴스가 다양한 플랫폼을 통해 계속해서 공유되면서 미디어와 같은 사회 기관에 대한 깊은 불신이 형성되었습니다. 오해의 소지가 있는 정보가 확산되는 방식에 대한 한 가지 이론은 컴퓨터 바이러스의 작동 방식을 기반으로 하는 전염 모델입니다. 네트워크는 사람을 대표하는 노드(Node)와 소셜 링크를 상징하는 엣지(Edge)로 구성됩니다. 개념은 하나의 '마음'에 심어지고 다양한 조건과 사회적 관계에 따라 확산됩니다.

기술과 사회의 디지털화 증가가 잘못된 정보 전술을 그 어느 때보다 효과적으로 만드는 데 도움이 되지 않습니다. 개인 연락처에 허위 정보를 공유하는 것을 용이하게 할 뿐만 아니라 앱 회사가 공유되는 메시지를 추적하는 것을 불가능하게 만드는 암호화된 메시징 앱(EMA)이 그 예입니다. 예를 들어, 2021년 XNUMX월 미국 국회 의사당 공격 이후 극우 단체는 트위터와 같은 주류 소셜 미디어 플랫폼에서 금지되었기 때문에 EMA로 이전되었습니다. 허위 정보 전술은 즉각적이고 장기적인 결과를 가져옵니다. 범죄 기록이 있는 의심스러운 인물이 트롤 농장을 통해 승리하는 선거 외에도 소수자를 소외시키고 전쟁 선전(예: 러시아의 우크라이나 침공)을 촉진할 수 있습니다. 

파괴적 영향

2020년 보안 회사 FireEye는 Ghostwriter라는 해커 그룹의 허위 정보 노력을 강조하는 보고서를 발표했습니다. 2017년 XNUMX월부터 선전가들은 특히 군사동맹인 북대서양조약기구(NATO)와 폴란드 및 발트해 지역의 미군을 대상으로 거짓말을 퍼뜨려 왔습니다. 그들은 소셜 미디어와 친러시아 뉴스 웹사이트에 위조된 자료를 게시했습니다. Ghostwriter는 때때로 보다 공격적인 접근 방식을 사용했습니다. 즉, 뉴스 웹사이트의 콘텐츠 관리 시스템(CMS)을 해킹하여 자체 기사를 게시하는 것입니다. 그런 다음 그룹은 가짜 이메일, 소셜 미디어 게시물, 심지어 독자의 콘텐츠를 허용하는 다른 사이트에 작성한 논평을 사용하여 가짜 뉴스를 배포합니다.

또 다른 허위 정보 전술은 알고리즘과 인공 지능(AI)을 사용하여 봇을 통해 소셜 미디어 팔로어를 '증대'하거나 자동화된 트롤 계정을 만들어 증오 댓글을 게시하는 등 소셜 미디어에 대한 여론을 조작합니다. 전문가들은 이것을 컴퓨터 선전이라고 부릅니다. 한편 The New York Times의 연구에 따르면 정치인들은 사람들이 생각하는 것보다 더 자주 허위 정보를 퍼뜨리기 위해 이메일을 사용하는 것으로 나타났습니다. 미국에서는 양 당사자 모두 유권자에게 보내는 이메일에 과장법을 사용하여 잘못된 정보 공유를 조장할 수 있는 죄가 있습니다. 

사람들이 잘못된 정보 캠페인에 빠지는 데에는 몇 가지 주요 이유가 있습니다. 

• 첫째, 사람들은 사회적 학습자이며 친구나 가족과 같은 정보 출처를 신뢰하는 경향이 있습니다. 이 사람들은 믿을 수 있는 친구들로부터 소식을 접하게 되므로 이 악순환을 끊기가 어렵습니다. 
• 둘째, 사람들은 자신이 소비하는 정보를 적극적으로 사실 확인하지 못하는 경우가 많습니다. 특히 한 소스(주로 기존 미디어 또는 즐겨 사용하는 소셜 미디어)에서 뉴스를 얻는 데 익숙하다면 더욱 그렇습니다. Facebook이나 Twitter와 같은 플랫폼). 자신의 신념을 뒷받침하는 헤드라인이나 이미지(심지어 브랜딩도 포함)를 볼 때 그들은 종종 이러한 주장의 진위 여부에 대해 의문을 제기하지 않습니다(아무리 우스꽝스럽더라도). 
• 에코 챔버는 반대되는 신념을 가진 사람들을 자동으로 적으로 만드는 강력한 허위 정보 도구입니다. 인간의 두뇌는 기존 아이디어를 뒷받침하는 정보와 기존 아이디어에 반대되는 할인 정보를 찾도록 설계되어 있습니다.

허위 정보를 퍼뜨리는 전술의 광범위한 의미

허위 정보를 퍼뜨리는 전술의 가능한 영향은 다음과 같습니다. 

• 정치인과 선전가가 영리한 허위 정보 캠페인을 통해 추종자와 "신뢰도"를 얻을 수 있도록 AI 및 봇을 전문으로 하는 더 많은 회사가 있습니다.
• 정부는 트롤 농장과 잘못된 정보 전략가에 맞서기 위해 허위 정보 방지법과 기관을 만들라는 압력을 받고 있습니다.
• 선전을 퍼뜨리고 평판을 훼손하려는 극단주의 단체를 위한 EMA 다운로드가 증가하고 있습니다.
• 허위 정보 해커가 시스템에 가짜 뉴스를 심는 것을 방지하기 위해 값비싼 사이버 보안 솔루션에 투자하는 미디어 사이트. 이 조정 프로세스에는 새로운 생성 AI 솔루션이 사용될 수 있습니다.
• 악의적인 행위자가 생성 AI 기반 봇을 사용하여 대규모로 선전 및 허위 정보 미디어 콘텐츠를 생성할 수 있습니다.
• 대학과 지역 학교에 허위 정보 방지 과정을 포함하라는 압력이 증가했습니다. 

고려해야 할 질문

• 허위 정보 전술로부터 자신을 어떻게 보호합니까?
• 정부와 기관은 이러한 전술의 확산을 어떻게 막을 수 있습니까?