Deepfakes mèdics: un greu atac a l'assistència sanitària

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Juny 14, 2023

Insight destacats

Les falsificacions mèdiques poden provocar tractaments innecessaris o incorrectes, causant pèrdues econòmiques i possibles morts. Erosionen la confiança dels pacients en el sector mèdic, provocant dubtes a l'hora de buscar atenció i utilitzar la telemedicina. Les falsificacions mèdiques també suposen una amenaça de guerra cibernètica, pertorban els sistemes sanitaris i desestabilitzen governs o economies.

Context de falsificacions mèdiques

Els deepfakes són alteracions digitals dissenyades per enganyar algú perquè cregui que és autèntic. A l'assistència sanitària, les falsificacions mèdiques impliquen la manipulació d'imatges de diagnòstic per inserir o eliminar de manera falsa tumors o altres afeccions mèdiques. Els cibercriminals estan innovant constantment nous mètodes per llançar atacs mèdics falsificats, amb l'objectiu d'interrompre les operacions dels hospitals i les instal·lacions de diagnòstic.

Els atacs d'imatge manipulats, com ara la inserció de tumors falsos, poden provocar que els pacients se sotmetin a tractaments innecessaris i esgotin milions de dòlars en recursos hospitalaris. Per contra, l'eliminació d'un tumor real d'una imatge pot impedir el tractament necessari d'un pacient, agreujant la seva condició i potencialment provocant víctimes mortals. Tenint en compte que als EUA es realitzen anualment 80 milions de tomografia computada, segons un estudi de 2022 sobre detecció mèdica de falsificacions profundes, aquestes tàctiques enganyoses poden servir a agendes de motivació política o financera, com ara el frau d'assegurances. Com a tal, el desenvolupament d'estratègies robustes i fiables per detectar i identificar alteracions d'imatge és de vital importància.

Dos mètodes freqüents de manipulació d'imatges inclouen el moviment de còpia i l'empalmament d'imatges. El moviment de còpia implica la superposició d'una àrea no objectiu a la part superior d'una regió objectiu, amagant efectivament la part d'interès. A més, aquest mètode pot multiplicar la regió objectiu, exagerant la prevalença de llocs d'interès. Mentrestant, l'empalmament d'imatges segueix un procediment similar al còpia i moviment, excepte que l'àrea d'interès duplicada prové d'una imatge separada. Amb l'augment de les tècniques d'aprenentatge automàtic i profund, els atacants ara poden aprendre a partir de grans bases de dades d'imatges utilitzant eines com les xarxes adversaries generatives (GAN) que s'utilitzen habitualment en vídeos fabricats.

Impacte disruptiu

Aquestes manipulacions digitals podrien soscavar significativament la fiabilitat i la integritat dels processos de diagnòstic. En última instància, aquesta tendència podria augmentar substancialment els costos sanitaris a causa dels possibles honoraris legals associats a les demandes per mala praxis. A més, l'ús indegut de falsificacions mèdiques per al frau d'assegurances podria contribuir a la càrrega econòmica dels sistemes sanitaris, les asseguradores i, en última instància, els pacients.

A més de les implicacions financeres, les falsificacions mèdiques també amenacen seriosament la confiança dels pacients en el sector mèdic. La confiança és una pedra angular de l'assistència sanitària eficaç, i qualsevol dany a aquesta confiança podria fer que els pacients dubtin o evitin l'atenció mèdica necessària per por de ser enganyats. En crisis sanitàries globals com les pandèmies, aquesta desconfiança pot provocar milions de morts, inclòs el rebuig de tractaments i vacunes. La por a les falsificacions profundes també podria desanimar els pacients a participar en la telemedicina i els serveis de salut digital, que s'han tornat cada cop més importants en l'assistència sanitària moderna.

A més, no es pot subestimar l'ús potencial de falsificacions mèdiques com a eina de sabotatge en la guerra cibernètica. Apuntant i alterant els sistemes hospitalaris i els centres de diagnòstic, els adversaris podrien crear caos, causar danys físics a moltes persones i infundir por i desconfiança a la població. Aquests ciberatacs podrien formar part d'estratègies més àmplies per desestabilitzar governs o economies. Per tant, la seguretat nacional i la infraestructura de salut pública han de desenvolupar de manera proactiva estratègies per detectar i prevenir aquestes amenaces potencials. 

Implicacions de les falsificacions mèdiques

Les implicacions més àmplies de les falsificacions mèdiques poden incloure: 

• Augment de la desinformació mèdica i autodiagnòstic potencialment nociu que condueix a l'empitjorament d'epidèmies i pandèmies.
• Les pèrdues econòmiques significatives per a les empreses farmacèutiques i els fabricants de dispositius mèdics, ja que la informació errònia i la vacil·lació fan que els seus productes caduquin o s'utilitzin de manera indeguda, donant lloc a demandes judicials.
• El potencial de ser armat en campanyes polítiques. Els deepfakes es podrien utilitzar per crear narracions falses sobre les condicions de salut dels candidats polítics o sobre crisis sanitàries inexistents per induir el pànic, provocant inestabilitat i desinformació.
• Les poblacions vulnerables, com les persones grans o les que tenen un accés limitat a l'assistència sanitària, esdevenen l'objectiu principal de les falsificacions mèdiques per animar-les a comprar medicaments innecessaris o a fer-se un autodiagnòstic.
• Avenços significatius en intel·ligència artificial i algorismes d'aprenentatge automàtic per identificar i filtrar amb precisió el contingut mèdic falsificat.
• Desconfiança en la investigació científica i els estudis revisats per parells. Si els resultats de la investigació manipulats es presenten a través de vídeos deepfals, pot ser difícil discernir l'autenticitat de les afirmacions mèdiques, dificultant els avenços en el coneixement mèdic i potencialment conduint a la difusió d'informació falsa.
• Els metges i altres professionals de la salut són enganyats per falsificacions profundes, arruïnant la seva reputació i carrera.

Preguntes a tenir en compte

• Si sou un professional de la salut, com es protegeix la vostra organització de les falsificacions mèdiques?
• Quins són els altres perills potencials dels deepfakes mèdics?