Deepfakes médicos: un ataque severo a la atención médica

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• Sábado, Junio 14, 2023

Información destacada

Las falsificaciones médicas profundas pueden dar lugar a tratamientos innecesarios o incorrectos, lo que provoca pérdidas económicas y posibles muertes. Erosionan la confianza de los pacientes en el sector médico, lo que genera dudas a la hora de buscar atención y utilizar la telemedicina. Los deepfakes médicos también representan una amenaza de guerra cibernética, interrumpiendo los sistemas de salud y desestabilizando gobiernos o economías.

Contexto de deepfakes médicos

Los deepfakes son alteraciones digitales diseñadas para engañar a alguien haciéndoles creer que son auténticos. En el cuidado de la salud, los deepfakes médicos involucran la manipulación de imágenes de diagnóstico para insertar o eliminar tumores u otras afecciones médicas. Los ciberdelincuentes están constantemente innovando nuevos métodos para lanzar ataques médicos falsos profundos, con el objetivo de interrumpir las operaciones de hospitales e instalaciones de diagnóstico.

Los ataques de imágenes manipuladas, como la inserción de tumores falsos, pueden hacer que los pacientes se sometan a tratamientos innecesarios y agotar millones de dólares en recursos hospitalarios. Por el contrario, la eliminación de un tumor real de una imagen puede impedir que un paciente reciba el tratamiento necesario, lo que exacerba su afección y puede provocar la muerte. Dado que 80 millones de tomografías computarizadas se realizan anualmente en los EE. UU., según un estudio de 2022 sobre la detección de falsificaciones médicas profundas, estas tácticas engañosas pueden servir para agendas motivadas política o financieramente, como el fraude de seguros. Como tal, el desarrollo de estrategias sólidas y confiables para detectar e identificar alteraciones de la imagen es de vital importancia.

Dos métodos frecuentes de manipulación de imágenes incluyen copiar y mover y empalmar imágenes. Copiar-mover implica superponer un área que no es de destino encima de una región de destino, ocultando efectivamente la parte de interés. Además, este método puede multiplicar la región objetivo, exagerando la prevalencia de lugares de interés. Mientras tanto, el empalme de imágenes sigue un procedimiento similar al de copiar y mover, excepto que el área de interés duplicada proviene de una imagen separada. Con el auge de las técnicas de aprendizaje automático y profundo, los atacantes ahora pueden aprender de vastas bases de datos de imágenes utilizando herramientas como las redes antagónicas generativas (GAN) que se usan comúnmente en videos fabricados.

Impacto disruptivo

Estas manipulaciones digitales podrían socavar significativamente la confiabilidad e integridad de los procesos de diagnóstico. En última instancia, esta tendencia podría aumentar sustancialmente los costos de atención médica debido a los posibles honorarios legales asociados con las demandas por mala práctica. Además, el uso indebido de deepfakes médicos para el fraude de seguros podría contribuir a la carga económica de los sistemas de salud, las aseguradoras y, en última instancia, los pacientes.

Además de las implicaciones financieras, los deepfakes médicos también amenazan seriamente la confianza de los pacientes en el sector médico. La confianza es la piedra angular de la prestación eficaz de atención médica, y cualquier daño a esta confianza podría hacer que los pacientes duden o eviten la atención médica necesaria por temor a ser engañados. En crisis sanitarias mundiales como las pandemias, esta desconfianza puede provocar millones de muertes, incluido el rechazo a tratamientos y vacunas. El miedo a las falsificaciones profundas también podría disuadir a los pacientes de participar en la telemedicina y los servicios de salud digitales, que se han vuelto cada vez más importantes en la atención médica moderna.

Además, no se puede subestimar el uso potencial de los deepfakes médicos como herramienta de sabotaje en la guerra cibernética. Al atacar e interrumpir los sistemas hospitalarios y los centros de diagnóstico, los adversarios podrían crear caos, causar daño físico a muchas personas e infundir miedo y desconfianza en la población. Dichos ataques cibernéticos podrían ser parte de estrategias más amplias para desestabilizar gobiernos o economías. Por lo tanto, la seguridad nacional y la infraestructura de salud pública deben desarrollar de manera proactiva estrategias para detectar y prevenir estas amenazas potenciales. 

Implicaciones de los deepfakes médicos

Las implicaciones más amplias de los deepfakes médicos pueden incluir: 

• Aumento de la información médica errónea y autodiagnósticos potencialmente dañinos que conducen al empeoramiento de epidemias y pandemias.
• Pérdidas financieras significativas para las compañías farmacéuticas y los fabricantes de dispositivos médicos, ya que la desinformación y la vacilación hacen que sus productos caduquen o se usen indebidamente, lo que lleva a juicios.
• El potencial para ser armado en campañas políticas. Deepfakes podría usarse para crear narrativas falsas sobre las condiciones de salud de los candidatos políticos o sobre crisis de salud inexistentes para inducir el pánico, lo que genera inestabilidad y desinformación.
• Las poblaciones vulnerables, como los ancianos o las personas con acceso limitado a la atención médica, se convierten en el objetivo principal de las falsificaciones médicas para alentarlos a comprar medicamentos innecesarios o autodiagnosticarse.
• Avances significativos en inteligencia artificial y algoritmos de aprendizaje automático para identificar y filtrar con precisión contenido médico falso.
• Desconfianza en la investigación científica y los estudios revisados ​​por pares. Si los resultados de la investigación manipulados se presentan a través de videos falsos, puede ser un desafío discernir la autenticidad de las afirmaciones médicas, lo que obstaculiza los avances en el conocimiento médico y puede conducir a la difusión de información falsa.
• Los médicos y otros profesionales de la salud son engañados por deepfakes, arruinando su reputación y sus carreras.

Preguntas a considerar

• Si es un profesional de la salud, ¿cómo se protege su organización de las falsificaciones médicas profundas?
• ¿Cuáles son los otros peligros potenciales de las falsificaciones médicas profundas?