Quantumrun

PILDIKrediit:

iStock

Automatiseeritud küberrünnakud tehisintellekti abil: kui masinad muutuvad küberkurjategijateks

Häkkerid kasutavad tehisintellekti (AI) ja masinõppe (ML) jõudu küberrünnakute tõhusamaks ja surmavamaks muutmiseks.

Autor:
autori nimi
Quantumrun Foresight
September 30, 2022

Ülevaate kokkuvõte

Tehisintellekti (AI) ja masinõpet (ML) kasutatakse küberturvalisuses üha enam nii süsteemide kaitsmiseks kui ka küberrünnakute läbiviimiseks. Nende võime andmetest ja käitumisest õppida võimaldab neil tuvastada süsteemi haavatavusi, kuid raskendab ka nende algoritmide allika jälgimist. See arenev tehisintellekti maastik küberkuritegevuses tekitab muret IT-ekspertide seas, nõuab täiustatud kaitsestrateegiaid ja võib kaasa tuua olulisi muutusi selles, kuidas valitsused ja ettevõtted küberjulgeolekule lähenevad.

Automatiseeritud küberrünnakud tehisintellekti konteksti kasutades

Tehisintellekt ja ML säilitavad võime automatiseerida peaaegu kõiki ülesandeid, sealhulgas õppida korduvast käitumisest ja mustritest, muutes võimsaks tööriistaks süsteemi haavatavuste tuvastamiseks. Veelgi olulisem on see, et AI ja ML muudavad algoritmi taga oleva isiku või üksuse kindlaksmääramise keeruliseks.

2022. aastal viitas USA senati relvajõudude küberjulgeoleku allkomitee istungil Microsofti teadusjuht Eric Horvitz tehisintellekti (AI) kasutamisele küberrünnakute automatiseerimiseks kui "solvavaks tehisintellektiks". Ta rõhutas, et on raske kindlaks teha, kas küberrünnak on AI-põhine. Samamoodi kasutatakse masinõpet (ML) küberrünnakute abistamiseks; ML-i kasutatakse sageli kasutatavate sõnade ja strateegiate õppimiseks paroolide loomisel, et neid paremini häkkida.

Küberturbefirma Darktrace uuring näitas, et IT-juhtkonnad on üha enam mures tehisintellekti võimaliku kasutamise pärast küberkuritegudes ning 96 protsenti vastanutest märkis, et nad juba uurivad võimalikke lahendusi. IT-turbeeksperdid tunnevad küberrünnakumeetodite muutumist lunavaralt ja andmepüügilt keerukamale pahavarale, mida on raske tuvastada ja kõrvale juhtida. AI-toega küberkuritegevuse võimalik oht on rikutud või manipuleeritud andmete lisamine ML-mudelitesse.

ML-rünnak võib mõjutada tarkvara ja muid tehnoloogiaid, mida praegu arendatakse, et toetada pilvandmetöötlust ja AI-d. Ebapiisavad koolitusandmed võivad samuti tugevdada algoritmide eelarvamusi, nagu vähemusrühmade ebaõige märgistamine või ennustava politseitöö mõjutamine marginaliseeritud kogukondade sihtimiseks. Tehisintellekt võib viia süsteemidesse peent, kuid hukatuslikku teavet, millel võivad olla pikaajalised tagajärjed.

Häiriv mõju

Georgetowni ülikooli teadlaste uuring kübertapmise ahela kohta (eduka küberrünnaku käivitamiseks sooritatud ülesannete kontrollnimekiri) näitas, et ML-st võivad kasu olla konkreetsed ründavad strateegiad. Need meetodid hõlmavad andmepüügi (teatud inimestele ja organisatsioonidele suunatud meilipettused), IT-taristute nõrkade külgede tuvastamist, pahatahtliku koodi edastamist võrkudesse ja küberturbesüsteemide tuvastamise vältimist. Masinõpe võib suurendada ka sotsiaalse manipuleerimise rünnakute õnnestumise võimalusi, kui inimesi petetakse avaldama tundlikku teavet või tegema konkreetseid toiminguid, näiteks finantstehinguid.

Lisaks saab kübertapmise kett automatiseerida mõningaid protsesse, sealhulgas:

Laiaulatuslik järelevalve – autonoomsed skannerid, mis koguvad teavet sihtvõrkudest, sealhulgas nende ühendatud süsteemidest, kaitsemehhanismidest ja tarkvaraseadetest.
Suur relvastus – tehisintellekti tööriistad, mis tuvastavad infrastruktuuri nõrkused ja loovad koodi nende lünkade imbumiseks. See automaatne tuvastamine võib olla suunatud ka konkreetsetele digitaalsetele ökosüsteemidele või organisatsioonidele.
Kohaletoimetamine või häkkimine – tehisintellekti tööriistad, mis kasutavad automaatset andmepüügi ja sotsiaalset manipuleerimist tuhandete inimeste sihtimiseks.

2023. aasta seisuga kuulub keeruka koodi kirjutamine endiselt inimprogrammeerijate pädevusse, kuid eksperdid usuvad, et ei lähe kaua aega, kui ka masinad selle oskuse omandavad. DeepMindi AlphaCode on selliste arenenud AI-süsteemide silmapaistev näide. See abistab programmeerijaid, analüüsides suuri koodikoguseid, et õppida mustreid ja luua optimeeritud koodilahendusi

Tehisintellekti kasutavate automatiseeritud küberrünnakute tagajärjed

Tehisintellekti kasutavate automatiseeritud küberrünnakute laiemad tagajärjed võivad hõlmata järgmist:

Ettevõtted süvendavad oma küberkaitseeelarveid, et töötada välja täiustatud küberlahendusi automatiseeritud küberrünnakute tuvastamiseks ja peatamiseks.
Küberkurjategijad, kes uurivad ML-meetodeid, et luua algoritme, mis võivad salaja tungida ettevõtete ja avaliku sektori süsteemidesse.
Sagenenud küberrünnakud, mis on hästi korraldatud ja on suunatud korraga mitmele organisatsioonile.
Ründav tehisintellekti tarkvara, mida kasutatakse sõjaväerelvade, masinate ja infrastruktuuri juhtimiskeskuste üle kontrolli haaramiseks.
Solvav AI-tarkvara, mida kasutatakse ettevõtte süsteemidesse imbumiseks, muutmiseks või ärakasutamiseks avalike ja erainfrastruktuuride hävitamiseks.
Mõned valitsused korraldavad potentsiaalselt ümber oma kodumaise erasektori digitaalse kaitse oma vastavate riiklike küberjulgeolekuagentuuride kontrolli ja kaitse all.