퀀텀런

이미지 크레딧:

iStock

의료 딥페이크: 의료에 대한 심각한 공격

조작된 의료 이미지는 사망, 혼돈, 잘못된 건강 정보를 초래할 수 있습니다.

저자:
저자 이름
퀀텀런 예측
２０２３년 ６월 ２８일

인사이트 하이라이트

의료용 딥페이크는 불필요하거나 잘못된 치료로 이어져 금전적 손실과 잠재적인 사망을 초래할 수 있습니다. 그들은 의료 분야에서 환자의 신뢰를 약화시켜 치료를 받고 원격 의료를 사용하는 것을 주저하게 만듭니다. 의료용 딥페이크는 또한 사이버 전쟁의 위협이 되어 의료 시스템을 교란하고 정부나 경제를 불안정하게 만듭니다.

의료용 딥페이크 컨텍스트

Deepfakes는 누군가가 자신이 진품이라고 생각하도록 속이도록 고안된 디지털 변경입니다. 의료 분야에서 의료용 딥페이크는 진단 이미지를 조작하여 종양이나 기타 의학적 상태를 허위로 삽입하거나 삭제하는 것을 포함합니다. 사이버 범죄자들은 병원과 진단 시설의 운영을 방해하는 것을 목표로 의료 딥페이크 공격을 시작하는 새로운 방법을 지속적으로 혁신하고 있습니다.

거짓 종양 삽입과 같은 조작된 영상 공격은 환자에게 불필요한 치료를 받게 하고 수백만 달러의 병원 자원을 소진시킬 수 있습니다. 반대로 이미지에서 실제 종양을 제거하면 환자에게 필요한 치료가 보류되어 환자의 상태가 악화되고 잠재적으로 사망에 이를 수 있습니다. 의료 딥페이크 탐지에 관한 80년 연구에 따르면 미국에서 매년 2022천만 건의 CT 스캔이 수행된다는 점을 감안할 때 이러한 기만적인 전술은 보험 사기와 같은 정치적 또는 재정적 동기를 가진 의제에 기여할 수 있습니다. 따라서 이미지 변경을 감지하고 식별하기 위한 강력하고 신뢰할 수 있는 전략을 개발하는 것이 매우 중요합니다.

이미지 변조의 두 가지 일반적인 방법에는 복사-이동 및 이미지 스플라이싱이 있습니다. 복사 이동은 대상 영역 위에 대상 영역이 아닌 영역을 오버레이하여 관심 있는 부분을 효과적으로 숨깁니다. 또한 이 방법은 대상 지역을 곱하여 관심 장소의 유병률을 과장할 수 있습니다. 한편, 이미지 스플라이싱은 복제 관심 영역이 별도의 이미지에서 나온다는 점을 제외하면 복사 이동과 유사한 절차를 따릅니다. 기계 및 딥 러닝 기술의 등장으로 공격자는 이제 조작된 비디오에 일반적으로 사용되는 GAN(Generative Adversarial Network)과 같은 도구를 사용하여 방대한 이미지 데이터베이스에서 학습할 수 있습니다.

파괴적 영향

이러한 디지털 조작은 진단 프로세스의 신뢰성과 무결성을 크게 훼손할 수 있습니다. 이러한 추세는 의료 과실 소송과 관련된 잠재적인 법적 비용으로 인해 궁극적으로 의료 비용을 크게 증가시킬 수 있습니다. 또한 의료 딥페이크를 보험 사기에 오용하면 의료 시스템, 보험사, 궁극적으로 환자에게 경제적 부담을 줄 수 있습니다.

재정적 영향 외에도 의료 딥페이크는 의료 분야에서 환자의 신뢰를 심각하게 위협합니다. 신뢰는 효과적인 의료 서비스 제공의 초석이며, 이러한 신뢰가 손상되면 환자가 잘못된 길로 인도될까봐 두려워 필요한 의료 서비스를 주저하거나 피하게 될 수 있습니다. 전염병과 같은 세계적인 건강 위기에서 이러한 불신은 치료 및 백신 거부를 포함하여 수백만 명의 사망을 초래할 수 있습니다. 딥페이크에 대한 두려움은 환자가 현대 의료에서 점점 더 중요해지고 있는 원격 의료 및 디지털 의료 서비스에 참여하지 못하게 할 수도 있습니다.

또한 사이버 전쟁에서 방해 행위의 도구로 의료 딥페이크를 사용할 가능성을 과소평가할 수 없습니다. 적들은 병원 시스템과 진단 센터를 표적으로 삼고 방해함으로써 혼란을 일으키고 많은 사람들에게 신체적 피해를 입히고 대중에게 두려움과 불신을 심어줄 수 있습니다. 이러한 사이버 공격은 정부나 경제를 불안정하게 만드는 광범위한 전략의 일부가 될 수 있습니다. 따라서 국가 안보 및 공중 보건 인프라는 이러한 잠재적 위협을 감지하고 예방하기 위한 전략을 사전에 개발해야 합니다.

의료용 딥페이크의 의미

의료용 딥페이크의 더 넓은 의미는 다음과 같습니다.

의학적 잘못된 정보 증가 및 잠재적으로 해로운 자가 진단으로 인해 전염병 및 전염병이 악화됩니다.
잘못된 정보와 망설임으로 인해 제품이 만료되거나 오용되어 소송으로 이어짐에 따라 제약 회사 및 의료 기기 제조업체는 막대한 재정적 손실을 입게 됩니다.
정치 캠페인에서 무기화될 가능성. 딥페이크는 정치 후보자의 건강 상태나 존재하지 않는 건강 위기에 대한 거짓 내러티브를 만들어 패닉을 유발하여 불안정과 잘못된 정보로 이어질 수 있습니다.
노인이나 의료 접근성이 낮은 사람들과 같은 취약계층이 불필요한 의약품 구매나 자가 진단을 유도하는 의료 딥페이크의 주요 대상이 됩니다.
딥페이크 의료 콘텐츠를 정확하게 식별하고 필터링하기 위한 인공 지능 및 머신 러닝 알고리즘의 상당한 발전.
과학 연구 및 동료 검토 연구에 대한 불신. 조작된 연구 결과가 딥페이크 영상을 통해 제시되면 의학적 주장의 진위를 식별하기 어렵고, 의학적 지식의 발전을 저해하고 잠재적으로 잘못된 정보의 확산으로 이어질 수 있습니다.
의사 및 기타 의료 전문가들이 딥페이크에 속아 평판과 경력을 망치고 있습니다.