Serangan siber automatik menggunakan AI: Apabila mesin menjadi penjenayah siber

KREDIT GAMBAR:
Kredit Image
iStock

Serangan siber automatik menggunakan AI: Apabila mesin menjadi penjenayah siber

Serangan siber automatik menggunakan AI: Apabila mesin menjadi penjenayah siber

Teks subtajuk
Kuasa kecerdasan buatan (AI) dan pembelajaran mesin (ML) sedang dieksploitasi oleh penggodam untuk menjadikan serangan siber lebih berkesan dan maut.
    • Pengarang
    • Nama pengarang
      Quantumrun Foresight
    • September 30, 2022

    Ringkasan cerapan

    Kecerdasan buatan (AI) dan pembelajaran mesin (ML) semakin digunakan dalam keselamatan siber, baik untuk melindungi sistem mahupun dalam melaksanakan serangan siber. Keupayaan mereka untuk belajar daripada data dan gelagat membolehkan mereka mengenal pasti kelemahan sistem, tetapi juga menyukarkan untuk mengesan sumber di sebalik algoritma ini. Landskap AI yang berkembang dalam jenayah siber ini menimbulkan kebimbangan dalam kalangan pakar IT, memerlukan strategi pertahanan lanjutan dan boleh membawa kepada perubahan ketara dalam cara kerajaan dan syarikat mendekati keselamatan siber.

    Serangan siber automatik menggunakan konteks AI

    Kecerdasan buatan dan ML mengekalkan keupayaan untuk mengautomasikan hampir semua tugas, termasuk belajar daripada tingkah laku dan corak yang berulang, menjadikan alat yang berkuasa untuk mengenal pasti kelemahan dalam sistem. Lebih penting lagi, AI dan ML menjadikannya mencabar untuk menentukan seseorang atau entiti di sebalik algoritma.

    Pada tahun 2022, semasa Jawatankuasa Kecil Perkhidmatan Bersenjata Senat AS mengenai Keselamatan Siber, Eric Horvitz, ketua pegawai saintifik Microsoft, merujuk kepada penggunaan kecerdasan buatan (AI) untuk mengautomasikan serangan siber sebagai "AI yang menyinggung." Dia menyerlahkan bahawa sukar untuk menentukan sama ada serangan siber adalah didorong oleh AI. Begitu juga, pembelajaran mesin (ML) sedang digunakan untuk membantu serangan siber; ML digunakan untuk mempelajari perkataan dan strategi yang biasa digunakan dalam mencipta kata laluan untuk menggodamnya dengan lebih baik. 

    Tinjauan oleh firma keselamatan siber Darktrace mendapati bahawa pasukan pengurusan IT semakin bimbang tentang potensi penggunaan AI dalam jenayah siber, dengan 96 peratus responden menunjukkan bahawa mereka sudah meneliti kemungkinan penyelesaian. Pakar keselamatan IT merasakan peralihan dalam kaedah serangan siber daripada perisian tebusan dan pancingan data kepada perisian hasad yang lebih kompleks yang sukar dikesan dan dipesongkan. Kemungkinan risiko jenayah siber yang didayakan AI ialah pengenalan data yang rosak atau dimanipulasi dalam model ML.

    Serangan ML boleh memberi kesan kepada perisian dan teknologi lain yang sedang dibangunkan untuk menyokong pengkomputeran awan dan AI canggih. Data latihan yang tidak mencukupi juga boleh menguatkuasakan semula bias algoritma seperti menandai kumpulan minoriti secara salah atau mempengaruhi kepolisan ramalan untuk menyasarkan komuniti terpinggir. Kecerdasan Buatan boleh memperkenalkan maklumat yang halus tetapi berbahaya ke dalam sistem, yang mungkin mempunyai akibat yang berpanjangan.

    Kesan yang mengganggu

    Kajian oleh penyelidik Universiti Georgetown mengenai rantaian bunuh siber (senarai semak tugas yang dilakukan untuk melancarkan serangan siber yang berjaya) menunjukkan bahawa strategi serangan tertentu boleh mendapat manfaat daripada ML. Kaedah ini termasuk spearphishing (penipuan e-mel yang ditujukan kepada orang dan organisasi tertentu), mengenal pasti kelemahan dalam infrastruktur IT, menghantar kod hasad ke dalam rangkaian dan mengelakkan pengesanan oleh sistem keselamatan siber. Pembelajaran mesin juga boleh meningkatkan peluang serangan kejuruteraan sosial berjaya, di mana orang ramai diperdaya untuk mendedahkan maklumat sensitif atau melakukan tindakan khusus seperti transaksi kewangan. 

    Selain itu, rantaian pembunuhan siber boleh mengautomasikan beberapa proses, termasuk: 

    • Pengawasan meluas - pengimbas autonomi mengumpul maklumat daripada rangkaian sasaran, termasuk sistem yang disambungkan, pertahanan dan tetapan perisian. 
    • Persenjataan yang luas - Alat AI mengenal pasti kelemahan dalam infrastruktur dan mencipta kod untuk menyusup kelemahan ini. Pengesanan automatik ini juga boleh menyasarkan ekosistem atau organisasi digital tertentu. 
    • Penghantaran atau penggodaman - Alat AI menggunakan automasi untuk melaksanakan spearphishing dan kejuruteraan sosial untuk menyasarkan beribu-ribu orang. 

    Sehingga 2023, menulis kod kompleks masih berada dalam bidang pengaturcara manusia, tetapi pakar percaya bahawa ia tidak akan lama sebelum mesin memperoleh kemahiran ini juga. AlphaCode DeepMind ialah contoh yang menonjol bagi sistem AI canggih tersebut. Ia membantu pengaturcara dengan menganalisis sejumlah besar kod untuk mempelajari corak dan menjana penyelesaian kod yang dioptimumkan

    Implikasi serangan siber automatik menggunakan AI

    Implikasi yang lebih luas daripada serangan siber automatik menggunakan AI mungkin termasuk: 

    • Syarikat memperdalam belanjawan pertahanan siber mereka untuk membangunkan penyelesaian siber termaju untuk mengesan dan menghentikan serangan siber automatik.
    • Penjenayah siber mengkaji kaedah ML untuk mencipta algoritma yang secara rahsia boleh menyerang sistem sektor korporat dan awam.
    • Peningkatan insiden serangan siber yang diatur dengan baik dan menyasarkan berbilang organisasi sekaligus.
    • Perisian AI yang menyinggung digunakan untuk merebut kawalan senjata tentera, mesin dan pusat arahan infrastruktur.
    • Perisian AI yang menyinggung perasaan digunakan untuk menyusup, mengubah suai atau mengeksploitasi sistem syarikat untuk menghapuskan infrastruktur awam dan swasta. 
    • Sesetengah kerajaan berpotensi menyusun semula pertahanan digital sektor swasta domestik mereka di bawah kawalan dan perlindungan agensi keselamatan siber nasional masing-masing.

    Soalan yang perlu dipertimbangkan

    • Apakah akibat lain yang berpotensi daripada serangan siber yang didayakan AI?
    • Bagaimana lagi syarikat boleh bersedia untuk serangan sedemikian?

    Rujukan wawasan

    Pautan popular dan institusi berikut telah dirujuk untuk cerapan ini:

    Pusat Keselamatan dan Teknologi Baru Muncul Mengautomasikan Serangan Siber