Attacchi informatici automatizzati tramite l'intelligenza artificiale: quando le macchine diventano criminali informatici

CREDITO IMMAGINE:
Immagine di credito
iStock

Attacchi informatici automatizzati tramite l'intelligenza artificiale: quando le macchine diventano criminali informatici

Attacchi informatici automatizzati tramite l'intelligenza artificiale: quando le macchine diventano criminali informatici

Testo del sottotitolo
Il potere dell'intelligenza artificiale (AI) e dell'apprendimento automatico (ML) viene sfruttato dagli hacker per rendere gli attacchi informatici più efficaci e letali.
    • Autore:
    • Nome dell'autore
      Preveggenza quantistica
    • 30 settembre 2022

    Riepilogo approfondimenti

    Artificial intelligence (AI) and machine learning (ML) are increasingly being used in cybersecurity, both for protecting systems and in executing cyberattacks. Their capability to learn from data and behaviors enables them to identify system vulnerabilities, but also makes it hard to trace the source behind these algorithms. This evolving landscape of AI in cybercrime raises concerns among IT experts, requires advanced defense strategies, and may lead to significant changes in how governments and companies approach cybersecurity.

    Attacchi informatici automatizzati utilizzando il contesto dell'IA

    Artificial intelligence and ML maintain the ability to automate nearly all tasks, including learning from repetitive behavior and patterns, making a powerful tool to identify vulnerabilities in a system. More importantly, AI and ML make it challenging to pinpoint a person or an entity behind an algorithm.

    In 2022, during the US Senate Armed Services Subcommittee on Cybersecurity, Eric Horvitz, Microsoft’s chief scientific officer, referred to the use of artificial intelligence (AI) to automate cyberattacks as “offensive AI.” He higlighted that it’s hard to determine if a cyberattack is AI-driven. Similarly, that machine learning (ML) is being used to aid cyberattacks; ML is used to learn commonly used words and strategies in creating passwords to hack them better. 

    A survey by the cybersecurity firm Darktrace discovered that IT management teams are increasingly concerned about the potential use of AI in cybercrimes, with 96 percent of respondents indicating that they’re already researching possible solutions. IT security experts feel a shift in cyberattack methods from ransomware and phishing to more complex malware that are difficult to detect and deflect. Possible risk of AI-enabled cybercrime is the introduction of corrupted or manipulated data in ML models.

    An ML attack can impact software and other technologies currently being developed to support cloud computing and edge AI. Insufficient training data can also re-enforce algorithm biases such as incorrectly tagging minority groups or influencing predictive policing to target marginalized communities. Artificial Intelligence can introduce subtle but disastrous information into systems, which may have long-lasting consequences.

    Impatto dirompente

    Uno studio condotto dai ricercatori della Georgetown University sulla cyber kill chain (un elenco di controllo delle attività eseguite per lanciare un attacco informatico di successo) ha mostrato che strategie offensive specifiche potrebbero trarre vantaggio dal ML. Questi metodi includono lo spearphishing (truffe via e-mail dirette a persone e organizzazioni specifiche), l'individuazione dei punti deboli nelle infrastrutture IT, la distribuzione di codice dannoso nelle reti ed evitare il rilevamento da parte dei sistemi di sicurezza informatica. L'apprendimento automatico può anche aumentare le possibilità che gli attacchi di ingegneria sociale abbiano successo, in cui le persone vengono indotte a rivelare informazioni sensibili o a eseguire azioni specifiche come transazioni finanziarie. 

    Inoltre, la cyber kill chain può automatizzare alcuni processi, tra cui: 

    • Sorveglianza estensiva: scanner autonomi che raccolgono informazioni dalle reti di destinazione, inclusi i sistemi connessi, le difese e le impostazioni del software. 
    • Vasta armamento: strumenti di intelligenza artificiale che identificano i punti deboli nell'infrastruttura e creano codice per infiltrarsi in queste scappatoie. Questo rilevamento automatizzato può anche prendere di mira specifici ecosistemi o organizzazioni digitali. 
    • Consegna o hacking: strumenti di intelligenza artificiale che utilizzano l'automazione per eseguire spearphishing e ingegneria sociale per prendere di mira migliaia di persone. 

    As of 2023, writing complex code is still within the realm of human programmers, but experts believe that it won’t be long before machines acquire this skill, too. DeepMind's AlphaCode is a prominent example of such advanced AI systems. It assists programmers by analyzing large amounts of code to learn patterns and generate optimized code solutions​

    Implicazioni degli attacchi informatici automatizzati che utilizzano l'IA

    Implicazioni più ampie degli attacchi informatici automatizzati che utilizzano l'IA possono includere: 

    • Le aziende stanno ampliando i propri budget per la difesa informatica per sviluppare soluzioni informatiche avanzate per rilevare e fermare gli attacchi informatici automatizzati.
    • I criminali informatici studiano i metodi ML per creare algoritmi che possono invadere segretamente i sistemi aziendali e del settore pubblico.
    • Aumento degli incidenti di attacchi informatici che sono ben orchestrati e prendono di mira più organizzazioni contemporaneamente.
    • Software di intelligenza artificiale offensivo utilizzato per prendere il controllo di armi, macchine e centri di comando delle infrastrutture militari.
    • Software di intelligenza artificiale offensivo utilizzato per infiltrarsi, modificare o sfruttare i sistemi di un'azienda per abbattere infrastrutture pubbliche e private. 
    • Alcuni governi stanno potenzialmente riorganizzando le difese digitali del loro settore privato nazionale sotto il controllo e la protezione delle rispettive agenzie nazionali di sicurezza informatica.

    Domande da considerare

    • Quali sono le altre potenziali conseguenze degli attacchi informatici abilitati dall'intelligenza artificiale?
    • In quale altro modo le aziende possono prepararsi a tali attacchi?

    Riferimenti di approfondimento

    I seguenti collegamenti popolari e istituzionali sono stati referenziati per questa intuizione:

    Centro per la sicurezza e la tecnologia emergente Automatizzare gli attacchi informatici