Microsoft และ OpenAI เตือนแฮกเกอร์ระดับประเทศใช้ประโยชน์จาก AI เพื่อโจมตีทางไซเบอร์แบบทำลายล้าง
Microsoft และ OpenAI ได้ร่วมกันออกคำเตือนเกี่ยวกับภัยคุกคามที่เพิ่มขึ้นของแฮกเกอร์ระดับประเทศที่ใช้ปัญญาประดิษฐ์ (AI) และโมเดลภาษาขนาดใหญ่ (LLM) เพื่อเพิ่มขีดความสามารถในการโจมตีทางไซเบอร์ รายงานระบุผู้มีส่วนร่วมของรัฐชาติที่เชื่อมโยงกับรัสเซีย เกาหลีเหนือ อิหร่าน และจีน โดยกำลังทดลองเทคโนโลยี AI เพื่อทำกิจกรรมทางไซเบอร์ที่เป็นอันตราย
การทำงานร่วมกันระหว่าง Microsoft และ OpenAI เปิดเผยว่าพวกเขาได้ขัดขวางความพยายามของหน่วยงานในเครือของรัฐ 5 ราย ซึ่งขัดขวางความพยายามของพวกเขาในการใช้ประโยชน์จากบริการ AI เพื่อจุดประสงค์ในการทำลายล้างโดยการยกเลิกสินทรัพย์และบัญชี จากข้อมูลของ Microsoft ความน่าดึงดูดของโมเดลภาษาขนาดใหญ่นั้นอยู่ที่การรองรับภาษาธรรมชาติ ทำให้โมเดลเหล่านี้น่าดึงดูดสำหรับนักแสดงภัยคุกคามที่เชี่ยวชาญด้านวิศวกรรมสังคมและการสื่อสารหลอกลวงที่ปรับให้เหมาะกับเป้าหมายเฉพาะ
แม้ว่าจะไม่พบการโจมตีที่สำคัญหรือแปลกใหม่โดยใช้ LLM แต่รายงานดังกล่าวเน้นย้ำว่าผู้มีบทบาทในเครือของรัฐเหล่านี้กำลังสำรวจเทคโนโลยี AI ในขั้นตอนต่างๆ ของห่วงโซ่การโจมตีทางไซเบอร์ กิจกรรมมีตั้งแต่การลาดตระเวนและความช่วยเหลือด้านการเขียนโค้ดไปจนถึงการพัฒนามัลแวร์
มีรายงานว่ากลุ่มรัฐชาติรัสเซีย Forest Blizzard (APT28) ได้ใช้บริการ OpenAI สำหรับการวิจัยโอเพ่นซอร์สเกี่ยวกับโปรโตคอลการสื่อสารผ่านดาวเทียมและเทคโนโลยีการถ่ายภาพเรดาร์ รวมถึงงานเขียนสคริปต์ ในทำนองเดียวกัน ผู้ก่อภัยคุกคามอื่นๆ เช่น Emerald Sleet (Kimusky) ของเกาหลีเหนือ พายุทรายแดงของอิหร่าน (Kitten Imperial) และ Charcoal Typhoon ของจีน (Aquatic Panda) และ Salmon Typhoon (Maverick Panda) ได้ใช้ LLM สำหรับงานต่างๆ เช่น การระบุผู้เชี่ยวชาญ การทำวิจัย การสร้างข้อมูลโค้ด และการสร้างเนื้อหาสำหรับแคมเปญฟิชชิ่ง
เพื่อตอบสนองต่อภัยคุกคามที่เพิ่มมากขึ้น Microsoft กำลังดำเนินมาตรการเชิงรุกโดยกำหนดชุดหลักการเพื่อลดความเสี่ยงที่เกี่ยวข้องกับการใช้งานเครื่องมือ AI และ API ในทางที่ผิดโดยผู้แสดงระดับรัฐ ภัยคุกคามขั้นสูงแบบถาวร (APT) เครื่องมือจัดการขั้นสูงแบบถาวร (APM) และกลุ่มอาชญากรไซเบอร์ หลักการประกอบด้วยการระบุและดำเนินการกับผู้ไม่ประสงค์ดี การแจ้งผู้ให้บริการ AI รายอื่น การร่วมมือกับผู้มีส่วนได้ส่วนเสีย และการรับรองความโปร่งใสในการจัดการกับภัยคุกคามเหล่านี้
ความร่วมมือระหว่าง Microsoft และ OpenAI นี้เน้นย้ำถึงความจำเป็นสำหรับความพยายามร่วมกันใน การสร้างรั้วและกลไกด้านความปลอดภัยเกี่ยวกับโมเดล AI ตอกย้ำความมุ่งมั่นในการใช้ AI อย่างมีความรับผิดชอบและการรักษาความปลอดภัยเมื่อเผชิญกับภัยคุกคามทางไซเบอร์ที่เปลี่ยนแปลงตลอดเวลา