Microsoft và OpenAI cảnh báo về việc tin tặc cấp quốc gia tận dụng AI để thực hiện các cuộc tấn công mạng mang tính hủy diệt
Microsoft và OpenAI đã cùng đưa ra cảnh báo về mối đe dọa ngày càng tăng của các tin tặc cấp quốc gia sử dụng trí tuệ nhân tạo (AI) và các mô hình ngôn ngữ lớn (LLM) để nâng cao khả năng tấn công mạng của chúng. Báo cáo xác định các chủ thể quốc gia có liên quan đến Nga, Triều Tiên, Iran và Trung Quốc đang tích cực thử nghiệm các công nghệ AI cho các hoạt động mạng độc hại.
Sự hợp tác giữa Microsoft và OpenAI tiết lộ rằng họ đã cản trở nỗ lực của 5 tổ chức liên kết với nhà nước, làm gián đoạn nỗ lực của họ nhằm tận dụng các dịch vụ AI cho mục đích phá hoại bằng cách chấm dứt tài sản và tài khoản. Theo Microsoft, sức hấp dẫn của các mô hình ngôn ngữ lớn nằm ở khả năng hỗ trợ ngôn ngữ tự nhiên, khiến chúng trở nên hấp dẫn đối với các tác nhân đe dọa chuyên về kỹ thuật xã hội và giao tiếp lừa đảo được thiết kế riêng cho các mục tiêu cụ thể.
Mặc dù cho đến nay, không có cuộc tấn công đáng kể hoặc mới nào sử dụng LLM được quan sát, nhưng báo cáo nhấn mạnh rằng các tác nhân liên kết với nhà nước này đang khám phá các công nghệ AI trên nhiều giai đoạn khác nhau của chuỗi tấn công mạng. Các hoạt động bao gồm từ trinh sát và hỗ trợ mã hóa đến phát triển phần mềm độc hại.
Nhóm quốc gia Nga Forest Blizzard (APT28) được cho là đã sử dụng các dịch vụ OpenAI cho nghiên cứu nguồn mở về các giao thức liên lạc vệ tinh và công nghệ hình ảnh radar, cũng như cho các nhiệm vụ viết kịch bản. Tương tự, các tác nhân đe dọa khác như Bão tuyết ngọc lục bảo (Kimusky) của Triều Tiên, Bão cát đỏ thẫm (Mèo con hoàng gia) của Iran, Bão than (Gấu trúc thủy sinh) và Bão cá hồi (Maverick Panda) của Trung Quốc đã sử dụng LLM cho các nhiệm vụ như xác định chuyên gia, tiến hành nghiên cứu. , tạo đoạn mã và tạo nội dung cho các chiến dịch lừa đảo.
Để đối phó với mối đe dọa ngày càng tăng, Microsoft đang thực hiện các biện pháp chủ động bằng cách xây dựng một bộ nguyên tắc nhằm giảm thiểu rủi ro liên quan đến việc sử dụng độc hại các công cụ AI và API của các tác nhân quốc gia, các mối đe dọa liên tục nâng cao (APT), kẻ thao túng liên tục nâng cao (APM) và các tập đoàn tội phạm mạng. Các nguyên tắc bao gồm xác định và thực hiện hành động chống lại các tác nhân độc hại, thông báo cho các nhà cung cấp dịch vụ AI khác, cộng tác với các bên liên quan và đảm bảo tính minh bạch trong việc xử lý các mối đe dọa này.
Sự hợp tác này giữa Microsoft và OpenAI nhấn mạnh sự cần thiết phải có nỗ lực chung nhằm thiết lập các rào cản và cơ chế an toàn xung quanh các mô hình AI , củng cố cam kết sử dụng và bảo mật AI có trách nhiệm khi đối mặt với các mối đe dọa mạng đang gia tăng.