Medical deepfakes: Tvrdý útok na zdravotníctvo

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Júna 14, 2023

Zvýraznenie prehľadu

Medicínsky deepfake môže viesť k nepotrebnej alebo nesprávnej liečbe, čo môže spôsobiť finančné straty a potenciálne smrteľné následky. Narúšajú dôveru pacientov v medicínsky sektor, čo vedie k váhavosti pri hľadaní starostlivosti a využívaní telemedicíny. Medicínske deepfakes tiež predstavujú hrozbu kybernetickej vojny, narúšajú systémy zdravotnej starostlivosti a destabilizujú vlády alebo ekonomiky.

Medicínsky hlboký kontext

Deepfakes sú digitálne zmeny navrhnuté tak, aby oklamali niekoho, aby si myslel, že je autentický. V zdravotníctve zahŕňajú medicínske deepfakes manipuláciu s diagnostickými obrázkami s cieľom falošne vložiť alebo odstrániť nádory alebo iné zdravotné ťažkosti. Kyberzločinci neustále inovujú nové metódy spúšťania lekárskych deepfake útokov, ktorých cieľom je narušiť fungovanie nemocníc a diagnostických zariadení.

Manipulované zobrazovacie útoky, ako je vkladanie falošných nádorov, môžu viesť k tomu, že pacienti podstúpia zbytočnú liečbu a vyčerpajú milióny dolárov z nemocničných zdrojov. Naopak, odstránenie skutočného nádoru zo snímky môže pacientovi odoprieť potrebnú liečbu, zhoršiť jeho stav a potenciálne viesť k úmrtiam. Vzhľadom na to, že v USA sa ročne vykoná 80 miliónov CT vyšetrení, podľa štúdie z roku 2022 o lekárskej detekcii hlbokých falošných správ môžu takéto klamlivé taktiky slúžiť politicky alebo finančne motivovaným programom, ako sú poistné podvody. Vývoj robustných a spoľahlivých stratégií na detekciu a identifikáciu zmien obrazu je preto kriticky dôležitý.

Dve časté metódy manipulácie s obrázkami zahŕňajú kopírovanie-presun a spájanie obrázkov. Kopírovanie-presun zahŕňa prekrytie necieľovej oblasti nad cieľovú oblasť, čím sa účinne skryje časť záujmu. Okrem toho môže táto metóda znásobiť cieľovú oblasť a zveličiť prevalenciu miest záujmu. Medzitým sa spájanie obrazu riadi podobným postupom ako kopírovanie a presun, s výnimkou toho, že duplicitná oblasť záujmu pochádza zo samostatného obrazu. S rozmachom techník strojového a hlbokého učenia sa teraz útočníci môžu učiť z rozsiahlych databáz obrázkov pomocou nástrojov, ako sú generatívne adversariálne siete (GAN), ktoré sa bežne používajú vo vyrobených videách.

Rušivý vplyv

Tieto digitálne manipulácie by mohli výrazne narušiť spoľahlivosť a integritu diagnostických procesov. Tento trend by mohol v konečnom dôsledku podstatne zvýšiť náklady na zdravotnú starostlivosť v dôsledku možných právnych poplatkov spojených so žalobami za zanedbanie povinnej starostlivosti. Okrem toho by zneužitie medicínskych falzifikátov na poistné podvody mohlo prispieť k ekonomickému zaťaženiu systémov zdravotnej starostlivosti, poisťovateľov a v konečnom dôsledku aj pacientov.

Okrem finančných dôsledkov, medicínske deepfakes vážne ohrozujú aj dôveru pacientov v medicínsky sektor. Dôvera je základným kameňom efektívneho poskytovania zdravotnej starostlivosti a akékoľvek poškodenie tejto dôvery môže viesť k tomu, že pacienti váhajú alebo sa vyhýbajú potrebnej lekárskej starostlivosti zo strachu, že budú zavádzaní. Pri globálnych zdravotných krízach, akými sú pandémie, môže táto nedôvera viesť k miliónom úmrtí vrátane odmietnutia liečby a vakcín. Strach z deepfakes by tiež mohol odradiť pacientov od účasti na telemedicíne a digitálnych zdravotníckych službách, ktoré sú v modernej zdravotnej starostlivosti čoraz dôležitejšie.

Navyše nemožno podceňovať potenciálne využitie medicínskych deepfakes ako nástroja sabotáže v kybernetickom boji. Zameraním sa a narušením nemocničných systémov a diagnostických centier by protivníci mohli vytvoriť chaos, spôsobiť fyzickú ujmu mnohým ľuďom a vzbudiť v populácii strach a nedôveru. Takéto kybernetické útoky by mohli byť súčasťou širších stratégií na destabilizáciu vlád alebo ekonomík. Preto je potrebné, aby infraštruktúra národnej bezpečnosti a verejného zdravia proaktívne rozvíjala stratégie na detekciu a prevenciu týchto potenciálnych hrozieb. 

Dôsledky medicínskych deepfakes

Širšie dôsledky medicínskych deepfakes môžu zahŕňať: 

• Zvýšené lekárske dezinformácie a potenciálne škodlivá samodiagnostika vedúca k zhoršeniu epidémií a pandémií.
• Značné finančné straty farmaceutických spoločností a výrobcov zdravotníckych pomôcok ako dezinformácie a váhavosť spôsobujú, že platnosť ich produktov končí alebo sú zneužité, čo vedie k súdnym sporom.
• Potenciál byť zbraňou v politických kampaniach. Deepfakes by sa mohli použiť na vytvorenie falošných naratívov o zdravotnom stave politických kandidátov alebo o neexistujúcich zdravotných krízach na vyvolanie paniky vedúcej k nestabilite a dezinformáciám.
• Zraniteľné skupiny obyvateľstva, ako sú starší ľudia alebo ľudia s obmedzeným prístupom k zdravotnej starostlivosti, sa stávajú hlavným cieľom lekárskych falzifikátov, ktoré ich majú povzbudiť k nákupu nepotrebných liekov alebo samodiagnostike.
• Významný pokrok v oblasti umelej inteligencie a algoritmov strojového učenia na presnú identifikáciu a odfiltrovanie falošného lekárskeho obsahu.
• Nedôvera vo vedecký výskum a recenzované štúdie. Ak sú zmanipulované výsledky výskumu prezentované prostredníctvom hlboko falošných videí, môže byť náročné rozlíšiť pravosť lekárskych tvrdení, čo bráni pokroku v medicínskych poznatkoch a môže viesť k šíreniu nepravdivých informácií.
• Lekári a ďalší zdravotnícki pracovníci sú zavádzaní hlbokými falošnými správami, ktoré ničia ich reputáciu a kariéru.

Otázky na zváženie

• Ak ste zdravotnícky pracovník, ako sa vaša organizácia chráni pred lekárskymi falšovaním?
• Aké sú ďalšie potenciálne nebezpečenstvá medicínskych deepfakeov?