การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์

เครดิตภาพ:
เครดิตภาพ
iStock

การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์

การโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI: เมื่อเครื่องจักรกลายเป็นอาชญากรไซเบอร์

ข้อความหัวข้อย่อย
แฮกเกอร์กำลังใช้ประโยชน์จากปัญญาประดิษฐ์ (AI) และแมชชีนเลิร์นนิง (ML) เพื่อให้การโจมตีทางไซเบอร์มีประสิทธิภาพและอันตรายมากขึ้น
    • เขียนโดย:
    • ชื่อผู้เขียน
      มองการณ์ไกลควอนตัมรัน
    • September 30, 2022

    สรุปข้อมูลเชิงลึก

    ปัญญาประดิษฐ์ (AI) และการเรียนรู้ของเครื่อง (ML) ถูกนำมาใช้มากขึ้นในการรักษาความปลอดภัยทางไซเบอร์ ทั้งเพื่อปกป้องระบบและในการโจมตีทางไซเบอร์ ความสามารถในการเรียนรู้จากข้อมูลและพฤติกรรมช่วยให้ระบุช่องโหว่ของระบบได้ แต่ยังทำให้ยากต่อการติดตามแหล่งที่มาเบื้องหลังอัลกอริธึมเหล่านี้ ภูมิทัศน์ที่เปลี่ยนแปลงไปของ AI ในอาชญากรรมในโลกไซเบอร์ทำให้เกิดความกังวลในหมู่ผู้เชี่ยวชาญด้านไอที จำเป็นต้องมีกลยุทธ์การป้องกันขั้นสูง และอาจนำไปสู่การเปลี่ยนแปลงที่สำคัญในวิธีที่รัฐบาลและบริษัทต่างๆ จัดการกับความปลอดภัยทางไซเบอร์

    การโจมตีทางไซเบอร์อัตโนมัติโดยใช้บริบท AI

    ปัญญาประดิษฐ์และ ML รักษาความสามารถในการทำงานเกือบทั้งหมดโดยอัตโนมัติ รวมถึงการเรียนรู้จากพฤติกรรมและรูปแบบที่ซ้ำซาก ทำให้เป็นเครื่องมือที่มีประสิทธิภาพในการระบุช่องโหว่ในระบบ ที่สำคัญกว่านั้น AI และ ML ทำให้การระบุบุคคลหรือเอนทิตีที่อยู่เบื้องหลังอัลกอริธึมเป็นเรื่องท้าทาย

    ในปี 2022 ในระหว่างคณะอนุกรรมการบริการติดอาวุธของวุฒิสภาสหรัฐอเมริกาด้านความมั่นคงปลอดภัยทางไซเบอร์ Eric Horvitz หัวหน้าเจ้าหน้าที่วิทยาศาสตร์ของ Microsoft กล่าวถึงการใช้ปัญญาประดิษฐ์ (AI) เพื่อโจมตีทางไซเบอร์โดยอัตโนมัติว่าเป็น “AI ที่น่ารังเกียจ” เขาเน้นย้ำว่าเป็นการยากที่จะตัดสินว่าการโจมตีทางไซเบอร์นั้นขับเคลื่อนด้วย AI หรือไม่ ในทำนองเดียวกัน การเรียนรู้ของเครื่อง (ML) นั้นกำลังถูกใช้เพื่อช่วยเหลือการโจมตีทางไซเบอร์ ML ใช้เพื่อเรียนรู้คำศัพท์และกลยุทธ์ที่ใช้กันทั่วไปในการสร้างรหัสผ่านเพื่อแฮ็กได้ดีขึ้น 

    การสำรวจโดยบริษัทรักษาความปลอดภัยทางไซเบอร์ Darktrace พบว่าทีมผู้บริหารด้านไอทีมีความกังวลเกี่ยวกับการใช้ AI ในอาชญากรรมทางไซเบอร์มากขึ้น โดย 96 เปอร์เซ็นต์ของผู้ตอบแบบสอบถามระบุว่าพวกเขากำลังค้นคว้าวิธีแก้ปัญหาที่เป็นไปได้อยู่แล้ว ผู้เชี่ยวชาญด้านความปลอดภัยด้านไอทีรู้สึกว่าวิธีการโจมตีทางไซเบอร์เปลี่ยนจากแรนซัมแวร์และฟิชชิ่งไปเป็นมัลแวร์ที่ซับซ้อนมากขึ้นซึ่งยากต่อการตรวจจับและเบี่ยงเบน ความเสี่ยงที่เป็นไปได้ของอาชญากรรมทางไซเบอร์ที่ใช้ AI คือการนำข้อมูลที่เสียหายหรือถูกจัดการมาในโมเดล ML

    การโจมตี ML สามารถส่งผลกระทบต่อซอฟต์แวร์และเทคโนโลยีอื่นๆ ที่กำลังพัฒนาเพื่อรองรับการประมวลผลบนคลาวด์และ Edge AI ข้อมูลการฝึกอบรมที่ไม่เพียงพอยังสามารถบังคับใช้อคติของอัลกอริทึมได้อีกครั้ง เช่น การแท็กกลุ่มชนกลุ่มน้อยอย่างไม่ถูกต้อง หรือมีอิทธิพลต่อการรักษาการณ์เชิงคาดการณ์เพื่อกำหนดเป้าหมายชุมชนชายขอบ ปัญญาประดิษฐ์สามารถนำข้อมูลที่ละเอียดอ่อนแต่เป็นหายนะเข้าสู่ระบบ ซึ่งอาจส่งผลที่ตามมาในระยะยาว

    ผลกระทบก่อกวน

    การศึกษาโดยนักวิจัยของมหาวิทยาลัยจอร์จทาวน์เกี่ยวกับห่วงโซ่การฆ่าทางไซเบอร์ (รายการตรวจสอบงานที่ทำเพื่อเปิดตัวการโจมตีทางอินเทอร์เน็ตที่ประสบความสำเร็จ) แสดงให้เห็นว่ากลยุทธ์เชิงรุกที่เฉพาะเจาะจงอาจได้รับประโยชน์จาก ML วิธีการเหล่านี้รวมถึง spearphishing (อีเมลหลอกลวงที่ส่งตรงไปยังบุคคลและองค์กร) การระบุจุดอ่อนในโครงสร้างพื้นฐานด้านไอที การส่งโค้ดที่เป็นอันตรายไปยังเครือข่าย และการหลีกเลี่ยงการตรวจจับโดยระบบความปลอดภัยทางไซเบอร์ แมชชีนเลิร์นนิงยังช่วยเพิ่มโอกาสที่การโจมตีแบบวิศวกรรมสังคมจะสำเร็จ โดยที่ผู้คนถูกหลอกให้เปิดเผยข้อมูลที่ละเอียดอ่อนหรือดำเนินการบางอย่าง เช่น ธุรกรรมทางการเงิน 

    นอกจากนี้ ห่วงโซ่การฆ่าทางไซเบอร์สามารถทำให้กระบวนการบางอย่างเป็นไปโดยอัตโนมัติ ซึ่งรวมถึง: 

    • การเฝ้าระวังอย่างกว้างขวาง - สแกนเนอร์อัตโนมัติรวบรวมข้อมูลจากเครือข่ายเป้าหมาย รวมถึงระบบที่เชื่อมต่อ การป้องกัน และการตั้งค่าซอฟต์แวร์ 
    • อาวุธจำนวนมาก - เครื่องมือ AI ระบุจุดอ่อนในโครงสร้างพื้นฐานและสร้างโค้ดเพื่อแทรกซึมช่องโหว่เหล่านี้ การตรวจจับอัตโนมัตินี้สามารถกำหนดเป้าหมายระบบนิเวศดิจิทัลหรือองค์กรที่เฉพาะเจาะจงได้ 
    • การจัดส่งหรือการแฮ็ก - เครื่องมือ AI ที่ใช้ระบบอัตโนมัติเพื่อดำเนินการสเปียร์ฟิชชิ่งและวิศวกรรมโซเชียลเพื่อกำหนดเป้าหมายผู้คนหลายพันคน 

    ในปี 2023 การเขียนโค้ดที่ซับซ้อนยังอยู่ในขอบเขตของโปรแกรมเมอร์ที่เป็นมนุษย์ แต่ผู้เชี่ยวชาญเชื่อว่าจะใช้เวลาไม่นานก่อนที่เครื่องจักรจะได้รับทักษะนี้เช่นกัน AlphaCode ของ DeepMind เป็นตัวอย่างที่โดดเด่นของระบบ AI ขั้นสูงดังกล่าว ช่วยโปรแกรมเมอร์โดยการวิเคราะห์โค้ดจำนวนมากเพื่อเรียนรู้รูปแบบและสร้างโซลูชันโค้ดที่ปรับให้เหมาะสม​

    ผลกระทบของการโจมตีทางไซเบอร์อัตโนมัติโดยใช้ AI

    นัยที่กว้างขึ้นของการโจมตีทางไซเบอร์แบบอัตโนมัติโดยใช้ AI อาจรวมถึง: 

    • บริษัทต่างๆ ได้เพิ่มงบประมาณการป้องกันทางไซเบอร์เพื่อพัฒนาโซลูชันทางไซเบอร์ขั้นสูงเพื่อตรวจจับและหยุดการโจมตีทางไซเบอร์แบบอัตโนมัติ
    • อาชญากรไซเบอร์กำลังศึกษาวิธีการ ML เพื่อสร้างอัลกอริธึมที่สามารถบุกรุกระบบองค์กรและภาครัฐอย่างลับๆ
    • เหตุการณ์การโจมตีทางไซเบอร์ที่เพิ่มขึ้นซึ่งได้รับการจัดการอย่างดีและกำหนดเป้าหมายหลายองค์กรพร้อมกัน
    • ซอฟต์แวร์ AI เชิงรุกที่ใช้ในการควบคุมอาวุธ เครื่องจักร และศูนย์บัญชาการโครงสร้างพื้นฐาน
    • ซอฟต์แวร์ AI เชิงรุกที่ใช้ในการแทรกซึม แก้ไข หรือใช้ประโยชน์จากระบบของบริษัทเพื่อทำลายโครงสร้างพื้นฐานทั้งภาครัฐและเอกชน 
    • รัฐบาลบางแห่งอาจจัดระบบการป้องกันดิจิทัลของภาคเอกชนในประเทศของตนใหม่ภายใต้การควบคุมและการปกป้องของหน่วยงานความปลอดภัยทางไซเบอร์ระดับประเทศของตน

    คำถามที่ต้องพิจารณา

    • อะไรคือผลที่อาจเกิดขึ้นจากการโจมตีทางไซเบอร์ที่เปิดใช้งาน AI?
    • บริษัทสามารถเตรียมการสำหรับการโจมตีดังกล่าวได้อย่างไร?

    ข้อมูลอ้างอิงเชิงลึก

    ลิงก์ที่เป็นที่นิยมและลิงก์สถาบันต่อไปนี้ถูกอ้างอิงสำหรับข้อมูลเชิงลึกนี้:

    ศูนย์ความปลอดภัยและเทคโนโลยีเกิดใหม่ การโจมตีทางไซเบอร์อัตโนมัติ