Lừa đảo tuyên truyền dựa trên trí tuệ nhân tạo

Các nhà nghiên cứu an ninh mạng đã phát hiện ra một chiến dịch gian lận quảng cáo tinh vi, có tên mã là Pushpaganda, kết hợp giữa việc làm suy yếu tối ưu hóa công cụ tìm kiếm (SEO) với nội dung được tạo ra bởi trí tuệ nhân tạo. Chiến dịch này được thiết kế để thao túng các nền tảng khám phá nội dung, đặc biệt là Google Discover, bằng cách quảng bá các câu chuyện tin tức gây hiểu nhầm trông có vẻ hợp pháp. Mục tiêu cuối cùng là lừa người dùng bật thông báo trình duyệt liên tục, sau đó biến chúng thành kênh phát tán phần mềm độc hại và các vụ lừa đảo tài chính.

Chiến dịch này chủ yếu nhắm vào người dùng Android và Chrome, lợi dụng nguồn cấp nội dung được cá nhân hóa để phát tán nội dung độc hại trực tiếp đến những cá nhân không hề hay biết.

Từ thao tác nhấp chuột đến xâm nhập: Chuỗi tấn công hoạt động như thế nào

Sự thành công của Pushpaganda nằm ở quy trình thao túng người dùng được dàn dựng một cách tỉ mỉ. Các tác nhân đe dọa dụ dỗ người dùng bằng những tiêu đề có vẻ đáng tin cậy, dẫn họ vào bẫy thông tin sai lệch và ép buộc. Một khi đã mắc bẫy, người dùng sẽ bị gây áp lực để bật thông báo trên trình duyệt, vốn là xương sống của cuộc tấn công.

Quy trình tấn công diễn ra như sau:

• Người dùng bắt gặp nội dung tin tức sai lệch do AI tạo ra thông qua Google Discover.
• Họ bị chuyển hướng đến các tên miền do kẻ tấn công kiểm soát, nơi lưu trữ những câu chuyện bịa đặt.
• Những trang này dụ dỗ người dùng bật thông báo đẩy bằng những lời lẽ lừa đảo.
• Thông báo gửi những tin nhắn gây hoang mang, chẳng hạn như các mối đe dọa pháp lý giả mạo hoặc cảnh báo khẩn cấp.
• Việc nhấp vào các cảnh báo này sẽ chuyển hướng nạn nhân đến các trang web độc hại khác chứa đầy quảng cáo.

Cơ chế này tạo ra lưu lượng truy cập "tự nhiên" giả mạo từ các thiết bị thật, làm tăng đáng kể lợi nhuận của chiêu trò này.

Quy mô khổng lồ và phạm vi toàn cầu

Vào thời điểm cao điểm, chiến dịch này đã tạo ra khoảng 240 triệu yêu cầu đấu thầu trên 113 tên miền chỉ trong vòng bảy ngày. Ban đầu được quan sát thấy nhắm mục tiêu vào người dùng ở Ấn Độ, chiến dịch này nhanh chóng mở rộng phạm vi hoạt động sang nhiều khu vực khác, bao gồm Hoa Kỳ, Úc, Canada, Nam Phi và Vương quốc Anh.

Quy mô này cho thấy hiệu quả của việc kết hợp nội dung do AI tạo ra với thao tác SEO, cho phép kẻ tấn công mở rộng quy mô hoạt động hơn nữa với nỗ lực thủ công tối thiểu.

Thông báo mang tính vũ khí: Một vectơ đe dọa dai dẳng

Thông báo đẩy đã trở thành một công cụ được tội phạm mạng ưa chuộng nhờ khả năng tạo ra sự khẩn cấp và vượt qua các biện pháp an ninh truyền thống. Sau khi được kích hoạt, những thông báo này cung cấp một kênh liên lạc liên tục mà kẻ tấn công có thể khai thác nhiều lần.

Các hình thức sử dụng độc hại phổ biến bao gồm:

• Phát tán phần mềm độc hại nhằm mục đích đe dọa người dùng và buộc họ phải hành động ngay lập tức.
• Chuyển hướng nạn nhân đến các trang web lừa đảo hoặc các trang web chứa nhiều quảng cáo.
• Tạo lưu lượng truy cập liên tục đến các nền tảng kiếm tiền do kẻ tấn công kiểm soát.

Kỹ thuật này không phải là mới. Các chiến dịch trước đây, chẳng hạn như những chiến dịch được cho là do nhóm tội phạm mạng Vane Viper thực hiện, đã chứng minh việc lạm dụng tương tự các thông báo đẩy để hỗ trợ gian lận quảng cáo và các cuộc tấn công kỹ thuật xã hội như ClickFix.

Lạm dụng trí tuệ nhân tạo và thao túng các nền tảng đáng tin cậy

Chiến dịch Pushpaganda nhấn mạnh một xu hướng ngày càng gia tăng: việc lạm dụng trí tuệ nhân tạo (AI) để khai thác các hệ sinh thái kỹ thuật số đáng tin cậy. Bằng cách tràn ngập các nền tảng bằng nội dung chất lượng thấp, được tạo ra bởi máy móc, các tác nhân đe dọa có thể xâm nhập vào các kênh tìm kiếm hợp pháp và biến chúng thành vũ khí để phát tán thông tin độc hại.
Những chiến thuật như vậy thường bao gồm:

• Tạo ra lượng lớn nội dung nhưng lại mang lại rất ít hoặc không có giá trị thực sự.
• Thu thập dữ liệu từ các nguồn hiện có để tạo ra các trang mới.
• Tạo ra các mạng lưới trang web để che giấu quy mô và nguồn gốc của hoạt động.

Những thủ thuật này được thiết kế để thao túng thứ hạng tìm kiếm và tăng khả năng hiển thị, cuối cùng là đánh lừa cả thuật toán và người dùng.

Phản hồi và các biện pháp đối phó đang được Google thực hiện

Để đối phó với những phát hiện này, Google đã triển khai các bản vá lỗi để khắc phục các lỗ hổng chống spam bị chiến dịch này khai thác. Công ty nhấn mạnh rằng các hệ thống và chính sách chống spam hiện có của họ được thiết kế để duy trì các tiêu chuẩn chất lượng cao trên Tìm kiếm và Khám phá.

Các biện pháp đối phó của Google bao gồm cập nhật thuật toán liên tục và thực thi nghiêm ngặt các chính sách chống lại nội dung thao túng. Công ty cũng đã nhắc lại rằng việc sử dụng AI để tạo nội dung chủ yếu nhằm mục đích thao túng thứ hạng là vi phạm các nguyên tắc của họ.

Các nỗ lực vẫn đang tiếp tục được thực hiện để phát hiện và vô hiệu hóa các mối đe dọa mới nổi, đảm bảo rằng các nền tảng phát hiện không bị lợi dụng làm kênh phân phối các trò lừa đảo và phần mềm độc hại.