Automatizált kibertámadások mesterséges intelligencia segítségével: Amikor a gépek kiberbűnözőkké válnak
Automatizált kibertámadások mesterséges intelligencia segítségével: Amikor a gépek kiberbűnözőkké válnak
Automatizált kibertámadások mesterséges intelligencia segítségével: Amikor a gépek kiberbűnözőkké válnak
- Szerző:
- 30. szeptember 2022.
Insight összefoglaló
A mesterséges intelligenciát (AI) és a gépi tanulást (ML) egyre gyakrabban használják a kiberbiztonság területén, mind a rendszerek védelmére, mind a kibertámadások végrehajtására. Az adatokból és viselkedésekből való tanulás képessége lehetővé teszi számukra a rendszer sebezhetőségeinek azonosítását, de megnehezíti az algoritmusok mögött meghúzódó források nyomon követését is. A kiberbűnözés terén a mesterséges intelligencia e fejlődő környezete aggodalmakat vet fel az IT-szakértők körében, fejlett védelmi stratégiákat igényel, és jelentős változásokhoz vezethet a kormányok és a vállalatok kiberbiztonsági megközelítésében.
Automatizált kibertámadások mesterséges intelligencia kontextus használatával
A mesterséges intelligencia és az ML fenntartja a szinte minden feladat automatizálásának képességét, beleértve az ismétlődő viselkedésből és mintákból való tanulást is, így hatékony eszköz a rendszer sebezhetőségeinek azonosítására. Ennél is fontosabb, hogy az AI és az ML megnehezíti az algoritmus mögött álló személy vagy entitás meghatározását.
2022-ben, az Egyesült Államok Szenátusa Fegyveres Szolgálatainak Kiberbiztonsági Albizottságának ülésén Eric Horvitz, a Microsoft tudományos főigazgatója „támadó mesterségesintelligenciaként” emlegette a mesterséges intelligencia (AI) használatát a kibertámadások automatizálására. Kiemelte, hogy nehéz megállapítani, hogy egy kibertámadást mesterséges intelligencia vezérel-e. Hasonlóképpen, a gépi tanulást (ML) használják a kibertámadások segítésére; Az ML-t arra használják, hogy megtanulják a gyakran használt szavakat és stratégiákat jelszavak létrehozásához, hogy jobban feltörjék őket.
A Darktrace kiberbiztonsági cég felmérése kimutatta, hogy az informatikai vezetők egyre inkább aggódnak a mesterséges intelligencia kiberbűnözésben való lehetséges felhasználása miatt, és a válaszadók 96 százaléka jelezte, hogy már kutatnak a lehetséges megoldások után. Az IT-biztonsági szakértők úgy érzik, hogy a kibertámadási módszerek a zsarolóvírusoktól és az adathalászattól a bonyolultabb rosszindulatú programok felé fordulnak, amelyeket nehéz észlelni és elhárítani. A mesterséges intelligencia által támogatott kiberbűnözés lehetséges kockázata a sérült vagy manipulált adatok ML modellekbe való bevezetése.
Az ML támadás hatással lehet a jelenleg fejlesztés alatt álló szoftverekre és más technológiákra a számítási felhő és az éles mesterséges intelligencia támogatására. Az elégtelen képzési adatok megerősíthetik az algoritmusok torzításait is, például a kisebbségi csoportok helytelen címkézését vagy a prediktív rendfenntartás befolyásolását a marginalizált közösségek megcélzása érdekében. A mesterséges intelligencia finom, de katasztrofális információkat juttathat be a rendszerekbe, aminek hosszan tartó következményei lehetnek.
Bomlasztó hatás
A Georgetown Egyetem kutatóinak a kiberölési láncról (a sikeres kibertámadás indításához elvégzett feladatok ellenőrző listája) végzett tanulmány kimutatta, hogy bizonyos támadó stratégiák számára előnyös lehet az ML. Ezek a módszerek közé tartozik az adathalászat (adott személyek és szervezetek felé irányuló e-mail csalások), az IT-infrastruktúrák gyenge pontjainak feltárása, a rosszindulatú kódok hálózatokba juttatása, valamint a kiberbiztonsági rendszerek általi észlelés elkerülése. A gépi tanulás növelheti a social engineering támadások sikerének esélyét is, amikor az embereket megtévesztik érzékeny információk felfedésével vagy konkrét műveletek, például pénzügyi tranzakciók végrehajtásával.
Ezenkívül a kiberirtó lánc bizonyos folyamatokat automatizálhat, például:
- Kiterjedt felügyelet – autonóm szkennerek információkat gyűjtenek a célhálózatokról, beleértve a csatlakoztatott rendszereiket, védelmi rendszereiket és szoftverbeállításaikat.
- Hatalmas fegyverkezés – AI-eszközök azonosítják az infrastruktúra gyengeségeit, és kódot hoznak létre ezekbe a kiskapuk behatolására. Ez az automatizált észlelés meghatározott digitális ökoszisztémákat vagy szervezeteket is megcélozhat.
- Kézbesítés vagy feltörés – AI-eszközök automatizálást használva adathalászat és közösségi manipuláció végrehajtására, amellyel több ezer embert céloznak meg.
2023-ban az összetett kód írása még mindig az emberi programozók hatáskörébe tartozik, de a szakértők úgy vélik, hogy nem sok idő telik el, míg a gépek is elsajátítják ezt a képességet. A DeepMind AlphaCode az ilyen fejlett AI-rendszerek kiemelkedő példája. Segíti a programozókat nagy mennyiségű kód elemzésével, hogy megtanulják a mintákat és optimalizált kódmegoldásokat hozzanak létre
Az AI segítségével végrehajtott automatizált kibertámadások következményei
Az AI-t használó automatizált kibertámadások szélesebb körű következményei lehetnek:
- A vállalatok növelik kibervédelmi költségvetésüket, hogy fejlett kibermegoldásokat fejlesszenek ki az automatizált kibertámadások észlelésére és megállítására.
- Kiberbűnözők, akik ML módszereket tanulmányoznak, hogy olyan algoritmusokat alkossanak, amelyek titokban behatolhatnak a vállalati és a közszféra rendszereibe.
- Megnövekedett a jól megszervezett kibertámadások száma, amelyek egyszerre több szervezetet céloznak meg.
- Támadó mesterséges intelligencia-szoftver, amelyet katonai fegyverek, gépek és infrastrukturális irányító központok feletti irányítás megszerzésére használnak.
- Támadó mesterséges intelligencia-szoftver, amelyet arra használnak, hogy beszivárogjanak, módosítsák vagy kihasználják a vállalat rendszereit a nyilvános és magáninfrastruktúrák lerombolására.
- Egyes kormányok potenciálisan átszervezik hazai magánszektoruk digitális védelmét saját nemzeti kiberbiztonsági ügynökségeik ellenőrzése és védelme alatt.
Megfontolandó kérdések
- Milyen egyéb lehetséges következményei lehetnek az AI-kompatibilis kibertámadásoknak?
- Hogyan készülhetnek fel a cégek az ilyen támadásokra?
Insight hivatkozások
A következő népszerű és intézményi hivatkozásokra hivatkoztunk ehhez a betekintéshez: