احذر! يمكن للذكاء الاصطناعي أن يجعل عمليات الاحتيال تبدو مشروعة وينشر تهديدات البرامج الضارة مثل برامج الفدية
أصدر المركز الوطني للأمن السيبراني (NCSC)، وهو جزء من وكالة التجسس GCHQ في المملكة المتحدة، تحذيرًا بشأن التهديد المتزايد للهجمات السيبرانية التي يسهلها الذكاء الاصطناعي (AI). وفقًا لتقييم NCSC، فإن أدوات الذكاء الاصطناعي التوليدية، التي يمكنها إنتاج نصوص وصوت وصور مقنعة من خلال مطالبات بسيطة، تجعل من الصعب التمييز بين رسائل البريد الإلكتروني الحقيقية وتلك التي يرسلها المحتالون والجهات الخبيثة.
وتتوقع الوكالة أن يساهم الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي ونماذج اللغة الكبيرة التي تعمل على تشغيل روبوتات الدردشة، بشكل كبير في ارتفاع التهديدات السيبرانية خلال العامين المقبلين. أحد الاهتمامات الأساسية هو صعوبة تحديد أنواع مختلفة من الهجمات، مثل التصيد الاحتيالي والانتحال والهندسة الاجتماعية.
ومن المتوقع أن يجعل تطور تكنولوجيا الذكاء الاصطناعي من الصعب على الأفراد، بغض النظر عن مستوى فهمهم للأمن السيبراني، تقييم شرعية رسائل البريد الإلكتروني أو طلبات إعادة تعيين كلمة المرور.
الذكاء الاصطناعي يمكن أن يساعد في تنمية أهداف برامج الفدية
ومن المتوقع أيضًا أن تتزايد هجمات برامج الفدية ، التي استهدفت مؤسسات مثل المكتبة البريطانية والبريد الملكي في العام الماضي. ويحذر المركز الوطني للأمن الإلكتروني (NCSC) من أن تطور الذكاء الاصطناعي يقلل من العوائق أمام مجرمي الإنترنت الهواة للوصول إلى الأنظمة، وجمع المعلومات عن الأهداف، وتنفيذ الهجمات التي يمكن أن تشل أنظمة الكمبيوتر، واستخراج البيانات الحساسة، والمطالبة بفدية العملات المشفرة.
يتم بالفعل استخدام أدوات الذكاء الاصطناعي التوليدية لإنشاء "مستندات إغراء" مزيفة تبدو مقنعة من خلال تجنب الأخطاء الشائعة الموجودة في هجمات التصيد الاحتيالي. على الرغم من أن فعالية كود برامج الفدية قد لا يتم تعزيزها بواسطة الذكاء الاصطناعي التوليدي، إلا أنها يمكن أن تساعد في تحديد الأهداف واختيارها. ويشير المركز الوطني للأمن السيبراني (NCSC) إلى أن الجهات الحكومية من المرجح أن تكون الأكثر مهارة في الاستفادة من الذكاء الاصطناعي في العمليات السيبرانية المتقدمة.
الجيد والسيئ للذكاء الاصطناعي
واستجابة للتهديد المتزايد، يؤكد المركز الوطني للأمن الإلكتروني على أن الذكاء الاصطناعي يمكن أن يكون أيضًا بمثابة أداة دفاعية، مما يتيح اكتشاف الهجمات وتصميم أنظمة أكثر أمانًا. ويتزامن التقرير مع تقديم حكومة المملكة المتحدة للمبادئ التوجيهية الجديدة، "قواعد ممارسات الحوكمة السيبرانية"، التي تشجع الشركات على تعزيز استعدادها للتعافي من هجمات برامج الفدية. ومع ذلك، فإن بعض خبراء الأمن السيبراني، بما في ذلك سياران مارتن، الرئيس السابق للمركز الوطني للأمن السيبراني، يدعون إلى اتخاذ إجراءات أقوى، مما يشير إلى إعادة تقييم جوهرية للمناهج المتبعة في التعامل مع تهديدات برامج الفدية. يؤكد مارتن على الحاجة إلى قواعد أكثر صرامة حول دفع الفدية ويحذر من الاستراتيجيات غير الواقعية، مثل الانتقام من المجرمين في الدول المعادية.