Deepfakes médicos: um ataque severo à saúde

• Autor:
• Nome do autor

  Previsão Quantumrun
• 14 de Junho de 2023

Destaques do Insight

Deepfakes médicos podem levar a tratamentos desnecessários ou errados, causando perdas financeiras e possíveis fatalidades. Eles corroem a confiança do paciente no setor médico, levando à hesitação em procurar atendimento e usar a telemedicina. Os deepfakes médicos também representam uma ameaça de guerra cibernética, interrompendo os sistemas de saúde e desestabilizando governos ou economias.

Contexto de deepfakes médicos

Deepfakes são alterações digitais projetadas para induzir alguém a pensar que é autêntico. Na área da saúde, os deepfakes médicos envolvem a manipulação de imagens de diagnóstico para inserir ou excluir falsamente tumores ou outras condições médicas. Os cibercriminosos estão constantemente inovando em novos métodos de lançamento de ataques médicos deepfake, com o objetivo de interromper as operações de hospitais e instalações de diagnóstico.

Ataques de imagens manipuladas, como a inserção de tumores falsos, podem levar os pacientes a tratamentos desnecessários e esgotar milhões de dólares em recursos hospitalares. Por outro lado, a eliminação de um tumor real de uma imagem pode impedir o tratamento necessário de um paciente, exacerbando sua condição e potencialmente resultando em fatalidades. Dado que 80 milhões de tomografias computadorizadas são realizadas anualmente nos EUA, de acordo com um estudo de 2022 sobre a detecção de deepfake médica, essas táticas enganosas podem servir a agendas motivadas política ou financeiramente, como fraude de seguro. Como tal, desenvolver estratégias robustas e confiáveis ​​para detectar e identificar alterações de imagem é extremamente importante.

Dois métodos frequentes de adulteração de imagens incluem copiar-mover e unir imagens. Copiar-mover envolve sobrepor uma área não-alvo em cima de uma região-alvo, ocultando efetivamente a parte de interesse. Além disso, esse método pode multiplicar a região de destino, exagerando a prevalência de locais de interesse. Enquanto isso, a emenda de imagem segue um procedimento semelhante ao copiar-mover, exceto que a área duplicada de interesse vem de uma imagem separada. Com o surgimento das técnicas de aprendizado de máquina e profundo, os invasores agora podem aprender com vastos bancos de dados de imagens usando ferramentas como redes adversárias generativas (GANs) comumente usadas em vídeos fabricados.

Impacto disruptivo

Essas manipulações digitais podem prejudicar significativamente a confiabilidade e a integridade dos processos de diagnóstico. Essa tendência pode, em última instância, aumentar substancialmente os custos com assistência médica devido aos possíveis honorários advocatícios associados a processos de imperícia. Além disso, o uso indevido de deepfakes médicos para fraude de seguros pode contribuir para o ônus econômico dos sistemas de saúde, seguradoras e, em última instância, dos pacientes.

Além das implicações financeiras, os deepfakes médicos também ameaçam seriamente a confiança dos pacientes no setor médico. A confiança é a pedra angular da prestação de cuidados de saúde eficaz, e qualquer dano a essa confiança pode levar os pacientes a hesitar ou evitar os cuidados médicos necessários devido ao medo de serem enganados. Em crises globais de saúde como pandemias, essa desconfiança pode resultar em milhões de mortes, inclusive na rejeição de tratamentos e vacinas. O medo de deepfakes também pode desencorajar os pacientes de participar de serviços de telemedicina e saúde digital, que se tornaram cada vez mais importantes na saúde moderna.

Além disso, o uso potencial de deepfakes médicos como ferramenta de sabotagem na guerra cibernética não pode ser subestimado. Ao visar e interromper sistemas hospitalares e centros de diagnóstico, os adversários podem criar o caos, causar danos físicos a muitas pessoas e instilar medo e desconfiança na população. Esses ataques cibernéticos podem fazer parte de estratégias mais amplas para desestabilizar governos ou economias. Portanto, a segurança nacional e a infraestrutura de saúde pública precisam desenvolver estratégias proativas para detectar e prevenir essas ameaças potenciais. 

Implicações de deepfakes médicos

Implicações mais amplas de deepfakes médicos podem incluir: 

• Aumento da desinformação médica e autodiagnóstico potencialmente prejudicial, levando ao agravamento de epidemias e pandemias.
• Perdas financeiras significativas para empresas farmacêuticas e fabricantes de dispositivos médicos, pois desinformação e hesitação fazem com que seus produtos expirem ou sejam mal utilizados, levando a ações judiciais.
• O potencial de ser armado em campanhas políticas. Deepfakes podem ser usados ​​para criar falsas narrativas sobre as condições de saúde de candidatos políticos ou sobre crises de saúde inexistentes para induzir o pânico, levando à instabilidade e à desinformação.
• Populações vulneráveis, como idosos ou com acesso limitado a cuidados de saúde, tornam-se o principal alvo de deepfakes médicos para incentivá-los a comprar medicamentos desnecessários ou a se autodiagnosticar.
• Avanços significativos em inteligência artificial e algoritmos de aprendizado de máquina para identificar e filtrar com precisão o conteúdo médico deepfake.
• Desconfiança em pesquisas científicas e estudos revisados ​​por pares. Se os resultados de pesquisas manipuladas forem apresentados por meio de vídeos deepfake, pode ser difícil discernir a autenticidade das alegações médicas, dificultando os avanços no conhecimento médico e potencialmente levando à disseminação de informações falsas.
• Médicos e outros profissionais de saúde sendo enganados por deepfakes, arruinando suas reputações e carreiras.

Questões a considerar

• Se você é um profissional de saúde, como sua organização está se protegendo de deepfakes médicos?
• Quais são os outros perigos potenciais dos deepfakes médicos?