Medische deepfakes: een ernstige aanval op de gezondheidszorg

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 14 June 2023

Inzicht hoogtepunten

Medische deepfakes kunnen leiden tot onnodige of verkeerde behandelingen, met financiële verliezen en mogelijk dodelijke slachtoffers tot gevolg. Ze tasten het vertrouwen van de patiënt in de medische sector aan, wat leidt tot aarzeling bij het zoeken naar zorg en het gebruik van telegeneeskunde. Medische deepfakes vormen ook een bedreiging voor cyberoorlogvoering, waardoor gezondheidszorgsystemen worden verstoord en regeringen of economieën worden gedestabiliseerd.

Context van medische deepfakes

Deepfakes zijn digitale aanpassingen die zijn ontworpen om iemand te laten denken dat ze authentiek zijn. In de gezondheidszorg gaat het bij medische deepfakes om het manipuleren van diagnostische beelden om ten onrechte tumoren of andere medische aandoeningen in te voegen of te verwijderen. Cybercriminelen innoveren voortdurend nieuwe methoden om medische deepfake-aanvallen uit te voeren, met als doel de werking van ziekenhuizen en diagnostische faciliteiten te verstoren.

Gemanipuleerde beeldvormingsaanvallen, zoals het inbrengen van valse tumoren, kunnen ertoe leiden dat patiënten onnodige behandelingen ondergaan en miljoenen dollars aan ziekenhuismiddelen uitputten. Omgekeerd kan het verwijderen van een daadwerkelijke tumor van een beeld de patiënt de noodzakelijke behandeling onthouden, waardoor zijn toestand verergert en mogelijk dodelijke slachtoffers vallen. Aangezien er in de VS jaarlijks 80 miljoen CT-scans worden uitgevoerd, kunnen dergelijke bedrieglijke tactieken volgens een onderzoek uit 2022 naar medische deepfake-detectie politiek of financieel gemotiveerde agenda's dienen, zoals verzekeringsfraude. Daarom is het ontwikkelen van robuuste en betrouwbare strategieën voor het detecteren en identificeren van beeldveranderingen van cruciaal belang.

Twee veel voorkomende methoden voor het manipuleren van afbeeldingen zijn onder meer kopiëren en verplaatsen en afbeeldingen splitsen. Kopiëren-verplaatsen houdt in dat een niet-doelgebied bovenop een doelgebied wordt gelegd, waardoor het deel van belang effectief wordt verborgen. Bovendien kan deze methode de doelregio vermenigvuldigen, waardoor de prevalentie van interessante plaatsen wordt overdreven. Ondertussen volgt het splitsen van afbeeldingen een procedure die vergelijkbaar is met kopiëren en verplaatsen, behalve dat het dubbele interessegebied afkomstig is van een afzonderlijke afbeelding. Met de opkomst van machine- en deep learning-technieken kunnen aanvallers nu leren van enorme beelddatabases met tools zoals generatieve adversarial networks (GAN's) die vaak worden gebruikt in gefabriceerde video's.

Disruptieve impact

Deze digitale manipulaties kunnen de betrouwbaarheid en integriteit van diagnostische processen aanzienlijk ondermijnen. Deze trend zou uiteindelijk de kosten voor de gezondheidszorg aanzienlijk kunnen verhogen vanwege de mogelijke juridische kosten die gepaard gaan met rechtszaken wegens wanpraktijken. Bovendien zou het misbruik van medische deepfakes voor verzekeringsfraude kunnen bijdragen aan de economische last voor gezondheidszorgstelsels, verzekeraars en uiteindelijk patiënten.

Naast financiële implicaties bedreigen medische deepfakes ook het vertrouwen van patiënten in de medische sector ernstig. Vertrouwen is een hoeksteen van effectieve gezondheidszorg, en elke schade aan dit vertrouwen kan ertoe leiden dat patiënten aarzelen of noodzakelijke medische zorg vermijden uit angst om misleid te worden. In wereldwijde gezondheidscrises zoals pandemieën kan dit wantrouwen leiden tot miljoenen doden, waaronder het afwijzen van behandelingen en vaccins. De angst voor deepfakes zou patiënten ook kunnen ontmoedigen om deel te nemen aan telegeneeskunde en digitale gezondheidsdiensten, die steeds belangrijker zijn geworden in de moderne gezondheidszorg.

Bovendien kan het potentiële gebruik van medische deepfakes als sabotagemiddel in cyberoorlogsvoering niet worden onderschat. Door zich te richten op ziekenhuissystemen en diagnostische centra en deze te verstoren, kunnen tegenstanders chaos creëren, veel mensen lichamelijk letsel toebrengen en angst en wantrouwen zaaien bij de bevolking. Dergelijke cyberaanvallen kunnen deel uitmaken van bredere strategieën om regeringen of economieën te destabiliseren. Daarom moeten nationale veiligheids- en volksgezondheidsinfrastructuur proactief strategieën ontwikkelen om deze potentiële bedreigingen op te sporen en te voorkomen. 

Implicaties van medische deepfakes

Bredere implicaties van medische deepfakes kunnen zijn: 

• Toegenomen medische desinformatie en mogelijk schadelijke zelfdiagnose leidend tot verergering van epidemieën en pandemieën.
• Aanzienlijke financiële verliezen voor farmaceutische bedrijven en fabrikanten van medische hulpmiddelen, omdat verkeerde informatie en aarzeling ervoor zorgen dat hun producten verlopen of misbruikt worden, wat leidt tot rechtszaken.
• Het potentieel om te worden bewapend in politieke campagnes. Deepfakes kunnen worden gebruikt om valse verhalen te creëren over de gezondheidstoestand van politieke kandidaten of over niet-bestaande gezondheidscrises om paniek te veroorzaken, wat leidt tot instabiliteit en desinformatie.
• Kwetsbare bevolkingsgroepen, zoals ouderen of mensen met beperkte toegang tot gezondheidszorg, worden het primaire doelwit van medische deepfakes om hen aan te moedigen onnodige medicijnen te kopen of zelf een diagnose te stellen.
• Aanzienlijke vooruitgang in kunstmatige intelligentie en algoritmen voor machine learning om medische deepfake-inhoud nauwkeurig te identificeren en eruit te filteren.
• Wantrouwen in wetenschappelijk onderzoek en peer-reviewed studies. Als gemanipuleerde onderzoeksresultaten worden gepresenteerd door middel van deepfake-video's, kan het een uitdaging zijn om de authenticiteit van medische beweringen te onderscheiden, wat de vooruitgang in medische kennis belemmert en mogelijk leidt tot de verspreiding van valse informatie.
• Artsen en andere zorgprofessionals worden misleid door deepfakes, wat hun reputatie en carrière ruïneert.

Vragen om te overwegen

• Als u een zorgprofessional bent, hoe beschermt uw organisatie zichzelf dan tegen medische deepfakes?
• Wat zijn de andere mogelijke gevaren van medische deepfakes?