Kuantumrun

GÖRÜNTÜ KREDİSİ:

iStock

Yapay zeka kullanan otomatik siber saldırılar: Makineler siber suçlu olduğunda

Yapay zekanın (AI) ve makine öğreniminin (ML) gücü, siber saldırıları daha etkili ve ölümcül hale getirmek için bilgisayar korsanları tarafından kullanılıyor.

Yazar:
Yazar adı
Kuantumrun Öngörüsü
Eylül 30, 2022

Analiz özeti

Yapay zeka (AI) ve makine öğrenimi (ML), hem sistemleri korumak hem de siber saldırıları gerçekleştirmek için siber güvenlikte giderek daha fazla kullanılıyor. Verilerden ve davranışlardan öğrenme yetenekleri, sistemdeki güvenlik açıklarını belirlemelerine olanak tanır, ancak aynı zamanda bu algoritmaların arkasındaki kaynağın izini sürmeyi de zorlaştırır. Siber suçlarda yapay zekanın gelişen bu manzarası, BT uzmanları arasında endişelere yol açıyor, gelişmiş savunma stratejileri gerektiriyor ve hükümetlerin ve şirketlerin siber güvenliğe yaklaşımında önemli değişikliklere yol açabilir.

AI bağlamını kullanan otomatik siber saldırılar

Yapay zeka ve makine öğrenimi, tekrarlanan davranış ve kalıplardan öğrenme de dahil olmak üzere neredeyse tüm görevleri otomatikleştirme yeteneğini koruyarak sistemdeki güvenlik açıklarını tespit etmek için güçlü bir araç haline gelir. Daha da önemlisi, yapay zeka ve makine öğrenimi, bir algoritmanın arkasındaki kişi veya varlığın yerini belirlemeyi zorlaştırıyor.

2022'de ABD Senatosu Siber Güvenlik Silahlı Hizmetler Alt Komitesi sırasında Microsoft'un baş bilim sorumlusu Eric Horvitz, siber saldırıları otomatikleştirmek için yapay zekanın (AI) kullanılmasından "saldırgan yapay zeka" olarak bahsetti. Bir siber saldırının yapay zeka kaynaklı olup olmadığını belirlemenin zor olduğunu vurguladı. Benzer şekilde, makine öğrenimi (ML) siber saldırılara yardımcı olmak için kullanılıyor; Makine öğrenimi, parolaları daha iyi hacklemek için parola oluşturmada yaygın olarak kullanılan kelimeleri ve stratejileri öğrenmek için kullanılır.

Siber güvenlik firması Darktrace tarafından yapılan bir anket, BT yönetim ekiplerinin yapay zekanın siber suçlarda potansiyel kullanımı konusunda giderek daha fazla endişe duyduğunu ortaya çıkardı; katılımcıların yüzde 96'sı halihazırda olası çözümleri araştırdıklarını belirtti. BT güvenliği uzmanları, siber saldırı yöntemlerinde fidye yazılımı ve kimlik avından, tespit edilmesi ve saptırılması zor olan daha karmaşık kötü amaçlı yazılımlara doğru bir değişim olduğunu hissediyor. Yapay zeka destekli siber suçların olası riski, makine öğrenimi modellerinde bozuk veya değiştirilmiş verilerin bulunmasıdır.

Bir makine öğrenimi saldırısı, bulut bilişimi ve uç yapay zekayı desteklemek için halihazırda geliştirilmekte olan yazılımları ve diğer teknolojileri etkileyebilir. Yetersiz eğitim verileri, azınlık gruplarının yanlış etiketlenmesi veya marjinalleştirilmiş toplulukları hedef alan tahmine dayalı polislik uygulamalarının etkilenmesi gibi algoritma önyargılarını da güçlendirebilir. Yapay Zeka, sistemlere ince ama yıkıcı bilgiler sunabilir ve bu bilgilerin uzun süreli sonuçları olabilir.

Yıkıcı etki

Georgetown Üniversitesi araştırmacılarının siber öldürme zinciri (başarılı bir siber saldırı başlatmak için gerçekleştirilen görevlerin bir kontrol listesi) üzerine yaptığı bir araştırma, belirli saldırı stratejilerinin makine öğreniminden fayda sağlayabileceğini gösterdi. Bu yöntemler arasında hedef odaklı kimlik avı (belirli kişilere ve kuruluşlara yönelik e-posta dolandırıcılığı), BT altyapılarındaki zayıflıkları saptamak, ağlara kötü niyetli kodlar göndermek ve siber güvenlik sistemleri tarafından tespit edilmekten kaçınmak yer alır. Makine öğrenimi, insanların hassas bilgileri ifşa etmeye veya finansal işlemler gibi belirli eylemleri gerçekleştirmeye kandırıldığı sosyal mühendislik saldırılarının başarılı olma şansını da artırabilir.

Ayrıca, siber öldürme zinciri, aşağıdakiler de dahil olmak üzere bazı süreçleri otomatikleştirebilir:

Kapsamlı gözetim - bağlı sistemleri, savunmaları ve yazılım ayarları dahil olmak üzere hedef ağlardan bilgi toplayan otonom tarayıcılar.
Geniş silahlandırma - Altyapıdaki zayıflıkları belirleyen ve bu boşluklara sızmak için kod oluşturan AI araçları. Bu otomatik algılama, belirli dijital ekosistemleri veya kuruluşları da hedefleyebilir.
Teslimat veya bilgisayar korsanlığı - Binlerce insanı hedeflemek için spearphishing ve sosyal mühendislik yürütmek için otomasyonu kullanan AI araçları.

2023 yılı itibarıyla karmaşık kod yazmak hâlâ insan programcıların yetki alanı dahilinde ancak uzmanlar, makinelerin de bu beceriyi kazanmasının çok uzun sürmeyeceğine inanıyor. DeepMind'ın AlphaCode'u bu tür gelişmiş yapay zeka sistemlerinin önemli bir örneğidir. Kalıpları öğrenmek ve optimize edilmiş kod çözümleri oluşturmak için büyük miktarlarda kodu analiz ederek programcılara yardımcı olur

Yapay zeka kullanan otomatik siber saldırıların etkileri

AI kullanan otomatik siber saldırıların daha geniş sonuçları şunları içerebilir:

Otomatik siber saldırıları tespit etmek ve durdurmak için gelişmiş siber çözümler geliştirmek için siber savunma bütçelerini derinleştiren şirketler.
Şirket ve kamu sektörü sistemlerini gizlice istila edebilecek algoritmalar oluşturmak için ML yöntemlerini inceleyen siber suçlular.
İyi organize edilmiş ve aynı anda birden fazla kuruluşu hedef alan artan siber saldırı olayları.
Askeri silahların, makinelerin ve altyapı komuta merkezlerinin kontrolünü ele geçirmek için kullanılan saldırgan AI yazılımı.
Bir şirketin sistemlerine sızmak, değiştirmek veya kamu ve özel altyapıları çökertmek için kullanılan saldırgan AI yazılımı.
Bazı hükümetler, kendi ulusal siber güvenlik kurumlarının kontrolü ve koruması altında yerel özel sektörlerinin dijital savunmasını potansiyel olarak yeniden organize ediyor.