برحذر بودن! هوش مصنوعی می تواند کلاهبرداری ها را مشروع جلوه دهد و تهدیدات بدافزاری مانند باج افزار را گسترش دهد

مرکز ملی امنیت سایبری (NCSC)، بخشی از آژانس جاسوسی GCHQ در بریتانیا، هشداری درباره افزایش تهدید حملات سایبری که توسط هوش مصنوعی (AI) تسهیل می‌شود، صادر کرده است. بر اساس ارزیابی NCSC، ابزارهای مولد هوش مصنوعی که می توانند متن، صدا و تصاویر قانع کننده را از طریق اعلان های ساده تولید کنند، تمایز بین ایمیل های واقعی و ایمیل های ارسال شده توسط کلاهبرداران و عوامل مخرب را به چالش می کشند.

این آژانس پیش‌بینی می‌کند که هوش مصنوعی، به‌ویژه هوش مصنوعی مولد و مدل‌های زبان بزرگ که ربات‌های چت را تقویت می‌کنند، به طور قابل‌توجهی در افزایش تهدیدات سایبری در دو سال آینده کمک خواهند کرد. یکی از نگرانی های اصلی مشکل در شناسایی انواع مختلف حملات مانند فیشینگ، جعل و مهندسی اجتماعی است.

انتظار می‌رود که پیچیدگی فناوری هوش مصنوعی، ارزیابی مشروعیت ایمیل‌ها یا درخواست‌های بازنشانی رمز عبور را برای افراد، صرف نظر از سطح درک امنیت سایبری، چالش برانگیز کند.

هوش مصنوعی می تواند به رشد اهداف باج افزار کمک کند

همچنین پیش‌بینی می‌شود که حملات باج‌افزاری که در سال گذشته موسساتی مانند کتابخانه بریتانیا و پست سلطنتی را هدف قرار داده‌اند، افزایش دهند. NCSC هشدار می‌دهد که پیچیدگی هوش مصنوعی مانع دسترسی مجرمان سایبری آماتور به سیستم‌ها، جمع‌آوری اطلاعات در مورد اهداف و اجرای حملاتی می‌شود که می‌توانند سیستم‌های رایانه‌ای را فلج کنند، داده‌های حساس را استخراج کنند و باج‌گیری از ارزهای دیجیتال درخواست کنند.

ابزارهای مولد هوش مصنوعی در حال حاضر برای ایجاد «اسناد فریب» جعلی استفاده می‌شوند که با اجتناب از اشتباهات رایج در حملات فیشینگ، قانع‌کننده به نظر می‌رسند. اگرچه ممکن است کارایی کد باج‌افزار با هوش مصنوعی مولد افزایش نیابد، اما می‌تواند به شناسایی و انتخاب اهداف کمک کند. NCSC پیشنهاد می کند که بازیگران دولتی احتمالاً در استفاده از هوش مصنوعی در عملیات سایبری پیشرفته ماهرترین هستند.

خوب و بد هوش مصنوعی

در پاسخ به تهدید رو به رشد، NCSC تاکید می کند که هوش مصنوعی همچنین می تواند به عنوان یک ابزار دفاعی عمل کند و امکان شناسایی حملات و طراحی سیستم های امن تر را فراهم کند. این گزارش همزمان با ارائه دستورالعمل‌های جدید توسط دولت بریتانیا به نام «معاهده عملکرد سایبری» است که کسب‌وکارها را تشویق می‌کند تا آمادگی خود را برای بازیابی از حملات باج‌افزار افزایش دهند. با این حال، برخی از کارشناسان امنیت سایبری، از جمله Ciaran Martin، رئیس سابق NCSC، برای اقدام قوی‌تر استدلال می‌کنند و پیشنهاد می‌کنند که رویکردها برای تهدیدات باج‌افزار ارزیابی مجدد شود. مارتین بر نیاز به قوانین سختگیرانه تر در مورد پرداخت باج و احتیاط در برابر استراتژی های غیرواقعی، مانند انتقام از جنایتکاران در کشورهای متخاصم تأکید می کند.