OpenAI chặn 20 hoạt động mạng độc hại chống lại các chiến dịch tội phạm mạng toàn cầu

Đáng ngạc nhiên là OpenAI đã nổi lên như một thế lực đáng gờm trong cuộc chiến chống lại các mối đe dọa kỹ thuật số. Kể từ đầu năm, công ty đã phá vỡ thành công hơn 20 chiến dịch độc hại nhằm khai thác nền tảng AI của mình cho các hoạt động có hại , chứng minh rằng tương lai của an ninh mạng đã ở đây.

Các hoạt động này bao gồm từ gỡ lỗi phần mềm độc hại và tạo thông tin sai lệch cho đến tạo ra các nhân vật giả mạo trên mạng xã hội. Các tác nhân đe dọa đã cố gắng tận dụng nền tảng của OpenAI để hỗ trợ các hoạt động độc hại như tạo tiểu sử cho các tài khoản giả hoặc tạo ảnh đại diện do AI tạo ra cho các danh tính giả mạo trên mạng xã hội trên X (trước đây là Twitter).

Tuy nhiên, bất chấp những nỗ lực này, OpenAI đã trấn an công chúng rằng không có chiến dịch nào trong số này dẫn đến những tiến bộ đột phá trong việc tạo phần mềm độc hại hoặc lan truyền thông tin sai lệch. Nói cách khác, trong khi những kẻ xấu đang thử nghiệm AI, chúng vẫn chưa đạt được những đột phá đáng kể.

Tội phạm mạng đã khai thác AI như thế nào

Những kẻ xấu đến từ khắp mọi nơi trên thế giới, từ Trung Quốc đến Iran, và sử dụng nhiều chiến thuật khác nhau. Một ví dụ nổi bật là SweetSpecter, một nhóm có trụ sở tại Trung Quốc sử dụng AI để do thám và nghiên cứu lỗ hổng, và thậm chí đã cố gắng (không thành công) để lừa đảo nhân viên OpenAI.

Các nhóm Iran cũng đóng vai trò đáng chú ý. Cyber Av3ngers, có liên hệ với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC), đã nghiên cứu bộ điều khiển logic lập trình bằng AI, trong khi một thực thể Iran khác, Storm-0817, đã sử dụng AI để gỡ lỗi phần mềm độc hại Android và thu thập thông tin hồ sơ mạng xã hội.

Ngoài các chiến dịch nhắm mục tiêu này, OpenAI đã chặn một số hoạt động gây ảnh hưởng quy mô lớn. Một trong số đó, A2Z, đã tạo ra nội dung tiếng Anh và tiếng Pháp để đăng tải rộng rãi trên mạng xã hội, trong khi Stop News tận dụng hình ảnh do AI tạo ra, thường theo phong cách hoạt hình hoặc kịch tính, để nâng cao bài viết và tweet của họ.

Phá vỡ các chiến dịch thông tin sai lệch toàn cầu

Các chiến dịch thông tin sai lệch nhắm vào các hệ thống chính trị là một lĩnh vực đáng quan tâm khác. OpenAI báo cáo rằng họ đã can thiệp vào các nỗ lực gây ảnh hưởng đến các cuộc bầu cử ở Hoa Kỳ, Rwanda, Ấn Độ và Liên minh châu Âu. Không có nỗ lực nào trong số này đạt được sức hút lan truyền, nhưng thực tế là các tác nhân đe dọa tìm cách thao túng các cuộc bầu cử nhấn mạnh đến những rủi ro ngày càng tăng do thông tin sai lệch do AI thúc đẩy.

STOIC, một công ty của Israel còn được gọi là Zero Zeno, là một trong những công ty chủ chốt trong lĩnh vực này, tạo ra các bình luận trên mạng xã hội về cuộc bầu cử ở Ấn Độ, một hoạt động trước đó đã được Meta và OpenAI tiết lộ vào đầu năm nay.

Sự cảnh giác liên tục của OpenAI cũng dẫn đến việc phát hiện ra hai mạng lưới khác, Bet Bot và Corrupt Comment, sử dụng API của mình để tạo ra các cuộc hội thoại trên X và liên kết người dùng đến các trang web cờ bạc hoặc tràn ngập phương tiện truyền thông xã hội bằng các bình luận được tạo ra.

Vai trò của AI trong thông tin sai lệch nhắm mục tiêu vi mô

Trí tuệ nhân tạo tạo ra có khả năng trở thành vũ khí không chỉ cho thông tin sai lệch trên diện rộng mà còn cho mục đích nhắm mục tiêu vi mô. Theo báo cáo gần đây của công ty an ninh mạng Sophos, AI có thể bị thao túng để phát tán thông tin sai lệch chính trị được cá nhân hóa cao thông qua email, trang web và nhân vật giả mạo. Bằng cách điều chỉnh cẩn thận các thông điệp theo các điểm cụ thể của chiến dịch, các tác nhân đe dọa có thể lừa dối cử tri ở cấp độ mới, có thể thay đổi kết quả bầu cử hoặc thay đổi ý kiến bằng thông tin sai lệch.

Các nhà nghiên cứu cảnh báo rằng thật dễ dàng để liên kết bất kỳ nhân vật hay phong trào chính trị nào với một lập trường chính sách mà họ có thể không thực sự ủng hộ, gây ra sự nhầm lẫn trong cử tri và làm tổn hại đến tiến trình dân chủ.

Cam kết của OpenAI về an ninh mạng

Trong khi AI mang đến những cơ hội chưa từng có để tiến bộ, nó cũng đặt ra những thách thức nghiêm trọng về bảo mật. OpenAI đã chứng minh rằng nó có thể thực hiện nhiệm vụ chống lại các nỗ lực độc hại nhằm khai thác công nghệ của mình. Tuy nhiên, trò chơi mèo vờn chuột giữa các chuyên gia an ninh mạng và tội phạm mạng có thể sẽ tiếp tục.

Nỗ lực của OpenAI nhằm phá vỡ hơn 20 chiến dịch toàn cầu trong năm nay đánh dấu một chiến thắng đáng kể, nhưng cuộc chiến vẫn chưa kết thúc. Khi AI phát triển, các chiến thuật mà các tác nhân đe dọa sử dụng cũng sẽ phát triển theo. Sự cảnh giác và đổi mới liên tục sẽ là chìa khóa để đảm bảo rằng AI vẫn là một thế lực vì mục đích tốt, thay vì là một công cụ lừa dối kỹ thuật số.