Ciberataques automatizados mediante IA: cando as máquinas se converten en ciberdelincuentes

• autor:
• nome do autor

  Previsión de Quantumrun
• Setembro 30, 2022

Resumo de insight

A intelixencia artificial (IA) e a aprendizaxe automática (ML) úsanse cada vez máis na ciberseguridade, tanto para protexer sistemas como para executar ciberataques. A súa capacidade de aprender dos datos e dos comportamentos permítelles identificar vulnerabilidades do sistema, pero tamén dificulta o rastrexo da orixe destes algoritmos. Este panorama en evolución da IA ​​no cibercrime suscita preocupacións entre os expertos en TI, require estratexias de defensa avanzadas e pode levar a cambios significativos na forma en que os gobernos e as empresas abordan a ciberseguridade.

Ciberataques automatizados usando contexto de IA

A intelixencia artificial e o ML manteñen a capacidade de automatizar case todas as tarefas, incluída a aprendizaxe de comportamentos e patróns repetitivos, converténdose nunha poderosa ferramenta para identificar vulnerabilidades nun sistema. Máis importante aínda, a intelixencia artificial e o ML fan que sexa difícil identificar unha persoa ou entidade detrás dun algoritmo.

En 2022, durante o Subcomité de Servizos Armados do Senado dos Estados Unidos sobre Ciberseguridade, Eric Horvitz, o director científico de Microsoft, referiuse ao uso da intelixencia artificial (IA) para automatizar os ciberataques como "IA ofensiva". Destacou que é difícil determinar se un ciberataque está impulsado pola intelixencia artificial. Do mesmo xeito, esa aprendizaxe automática (ML) está a ser utilizada para axudar aos ciberataques; ML úsase para aprender palabras e estratexias de uso común na creación de contrasinais para cortalos mellor. 

Unha enquisa da firma de ciberseguridade Darktrace descubriu que os equipos de xestión de TI están cada vez máis preocupados polo uso potencial da intelixencia artificial nos delitos cibernéticos, e o 96 por cento dos enquisados ​​indica que xa están investigando posibles solucións. Os expertos en seguridade de TI senten un cambio nos métodos de ciberataque do ransomware e do phishing a un malware máis complexo que é difícil de detectar e desviar. O posible risco de ciberdelincuencia activada pola IA é a introdución de datos corruptos ou manipulados nos modelos de ML.

Un ataque de ML pode afectar o software e outras tecnoloxías que se están a desenvolver actualmente para admitir a computación en nube e a IA de punta. Os datos de formación insuficientes tamén poden reforzar os prexuízos dos algoritmos, como etiquetar incorrectamente os grupos minoritarios ou influír na policía preditiva para dirixirse ás comunidades marxinadas. A Intelixencia Artificial pode introducir información sutil pero desastrosa nos sistemas, o que pode ter consecuencias duradeiros.

Impacto perturbador

Un estudo realizado por investigadores da Universidade de Georgetown sobre a cadea cibernética (unha lista de verificación de tarefas realizadas para lanzar un ciberataque exitoso) mostrou que as estratexias ofensivas específicas poderían beneficiarse do ML. Estes métodos inclúen o spearphishing (estafas de correo electrónico dirixidas a persoas e organizacións específicas), detectar debilidades nas infraestruturas de TI, entregar código malicioso ás redes e evitar a detección por parte dos sistemas de ciberseguridade. A aprendizaxe automática tamén pode aumentar as posibilidades de que os ataques de enxeñaría social teñan éxito, onde as persoas son enganadas para que revelen información confidencial ou realicen accións específicas como transaccións financeiras. 

Ademais, a cadea cibernética pode automatizar algúns procesos, incluíndo: 

• Vixilancia ampla: escáneres autónomos que recollen información das redes de destino, incluídos os seus sistemas conectados, defensas e configuracións de software. 
• Amplo armamento: ferramentas de intelixencia artificial que identifican as debilidades da infraestrutura e crean código para infiltrarse nestas lagoas. Esta detección automatizada tamén pode dirixirse a ecosistemas ou organizacións dixitais específicos. 
• Entrega ou piratería: ferramentas de intelixencia artificial que utilizan a automatización para executar phishing e enxeñería social para apuntar a miles de persoas. 

A partir de 2023, escribir código complexo aínda está dentro do ámbito dos programadores humanos, pero os expertos cren que non pasará moito tempo antes de que as máquinas tamén adquiran esta habilidade. AlphaCode de DeepMind é un exemplo destacado destes sistemas avanzados de IA. Axuda aos programadores analizando grandes cantidades de código para aprender patróns e xerar solucións de código optimizadas

Implicacións dos ciberataques automatizados mediante a IA

As implicacións máis amplas dos ciberataques automatizados mediante a intelixencia artificial poden incluír: 

• Empresas que afondan nos seus orzamentos de ciberdefensa para desenvolver solucións cibernéticas avanzadas para detectar e deter os ciberataques automatizados.
• Cibercriminales que estudan métodos de ML para crear algoritmos que poidan invadir en segredo os sistemas do sector público e corporativo.
• Aumento dos incidentes de ciberataques ben orquestrados e dirixidos a varias organizacións á vez.
• Software de intelixencia artificial ofensivo utilizado para tomar o control de armas militares, máquinas e centros de mando de infraestruturas.
• Software de intelixencia artificial ofensivo utilizado para infiltrarse, modificar ou explotar os sistemas dunha empresa para derrubar infraestruturas públicas e privadas. 
• Algúns gobernos poden reorganizar as defensas dixitais do seu sector privado doméstico baixo o control e a protección das súas respectivas axencias nacionais de ciberseguridade.

Preguntas a ter en conta

• Cales son as outras consecuencias potenciais dos ciberataques habilitados pola IA?
• De que outra maneira se poden preparar as empresas para este tipo de ataques?