সফটওয়্যার সরবরাহ শৃঙ্খলে নতুন হুমকি তৈরি করছে এআই হ্যালুসিনেশন

কোডিং-এর জন্য কৃত্রিম বুদ্ধিমত্তার উপর নির্ভরশীল ডেভেলপার এবং সংস্থাগুলির জন্য একটি নতুন উত্তেজনাপূর্ণ অগ্রগতিতে, গবেষকরা কোড-জেনারেটিং মডেলগুলিতে AI হ্যালুসিনেশন দ্বারা সৃষ্ট একটি অভিনব সরবরাহ শৃঙ্খলের হুমকি আবিষ্কার করেছেন। এই উদীয়মান আক্রমণ ভেক্টর, যাকে slopsquatting বলা হয়, দূষিত ব্যক্তিদের লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) দ্বারা প্রতারিত কাল্পনিক প্যাকেজগুলির সুযোগ নিয়ে সফ্টওয়্যার ইকোসিস্টেমগুলিতে অনুপ্রবেশ করার সুযোগ করে দিতে পারে।

বিপদটি এই যে, LLMগুলি প্রায়শই প্যাকেজগুলিকে "হ্যালুসিনেট" করে - এমন সফ্টওয়্যার নির্ভরতার রেফারেন্সগুলি পরামর্শ দেয় বা সন্নিবেশ করায় যা কেবল বিদ্যমান নয়। সান আন্তোনিওর টেক্সাস বিশ্ববিদ্যালয়, ওকলাহোমা বিশ্ববিদ্যালয় এবং ভার্জিনিয়া টেকের যৌথভাবে পরিচালিত গবেষণায় দেখা গেছে যে পরীক্ষিত 16টি জনপ্রিয় LLM-এর কেউই এই ঘটনার থেকে মুক্ত ছিল না।

স্লপস্কোয়াটিং কী এবং এটি কীভাবে কাজ করে?

স্লপস্কোয়াটিং এই হ্যালুসিনেশন ত্রুটিটি গ্রহণ করে এবং এটিকে একটি অস্ত্রে পরিণত করে। কোড তৈরির সময় যখন কোনও এলএলএম কোনও অস্তিত্বহীন প্যাকেজের পরামর্শ দেয়, তখন সাইবার অপরাধীরা দ্রুত সেই নামে একটি ক্ষতিকারক প্যাকেজ নিবন্ধন করতে পারে। প্রকাশিত হওয়ার পরে, যে কোনও বিকাশকারী যদি এআই-জেনারেটেড কোডটি মুখ্য মূল্যে গ্রহণ করে তবে অজান্তেই ক্ষতিকারক প্যাকেজটি আমদানি এবং চালাতে পারে। এটি কেবল ব্যক্তিগত প্রকল্পের সাথে আপস করে না বরং সংক্রামিত কোডটি পুনরায় ব্যবহার বা ভাগ করে নেওয়া হলে সমগ্র সফ্টওয়্যার সরবরাহ শৃঙ্খলে ছড়িয়ে পড়তে পারে।

গবেষণায় দেখা গেছে যে পাইথন এবং জাভাস্ক্রিপ্ট পরীক্ষার পরিস্থিতিতে তৈরি হওয়া ২.২৩ মিলিয়ন প্যাকেজের মধ্যে প্রায় ৪৪০,০০০ - বা প্রায় ১৯.৭% - হ্যালুসিনেটেড ছিল। এর মধ্যে, ২০৫,৪৭৪টি ছিল অনন্য কাল্পনিক প্যাকেজ নাম। বেশিরভাগ হ্যালুসিনেটেড প্যাকেজ - ৮১% - সেই নির্দিষ্ট মডেলের জন্য অনন্য ছিল যা তাদের তৈরি করেছিল, যা বিভিন্ন LLM গুলিতে অসঙ্গত আচরণের দিকে ইঙ্গিত করে।

বাণিজ্যিক এআই মডেলগুলি কমপক্ষে ৫.২% ক্ষেত্রে হ্যালুসিনেশন প্যাকেজ ব্যবহার করেছে, যেখানে ওপেন-সোর্স মডেলগুলি উল্লেখযোগ্যভাবে খারাপ ফলাফল করেছে, হ্যালুসিনেশনের হার ২১.৭%। উদ্বেগজনকভাবে, এই ত্রুটিগুলি কেবল একবারের ত্রুটি ছিল না। অর্ধেকেরও বেশি হ্যালুসিনেশন প্যাকেজ (৫৮%) মাত্র ১০টি পুনরাবৃত্তির মধ্যে বারবার দেখা গেছে, যা স্পষ্টতই স্থায়ী থাকার প্রবণতা দেখায়।

সফটওয়্যার ডেভেলপমেন্টে এআই-জেনারেটেড কোডের ক্রমবর্ধমান ঝুঁকি

যদিও পূর্ববর্তী গবেষণাগুলি টাইপোস্কোয়াটিংয়ের হুমকি স্বীকার করেছে - যেখানে আক্রমণকারীরা ভুল টাইপ করা বা বিভ্রান্তিকর প্যাকেজ নাম ব্যবহার করে - এই নতুন স্লপস্কোয়াটিং আক্রমণটি একটি উপেক্ষিত এবং সম্ভাব্যভাবে অনেক বেশি বিপজ্জনক রূপকে প্রতিনিধিত্ব করে। টাইপোস্কোয়াটিংয়ের বিপরীতে, যা মানুষের ত্রুটির শিকার হয়, স্লপস্কোয়াটিং AI-উত্পাদিত কোডের অনুভূত কর্তৃত্ব এবং বিশ্বাসযোগ্যতাকে কাজে লাগায়।

সম্ভবত সবচেয়ে আকর্ষণীয় - এবং সমানভাবে উদ্বেগজনক - গবেষকরা দেখেছেন যে LLM তাদের নিজস্ব অনেক হ্যালুসিনেশন সনাক্ত করতে সক্ষম। এটি একটি অব্যবহৃত স্ব-নিয়ন্ত্রক সম্ভাবনার ইঙ্গিত দেয় যা ভবিষ্যতের সুরক্ষা ব্যবস্থায় ব্যবহার করা যেতে পারে। এটি ত্রুটিপূর্ণ বা বিপজ্জনক কোডের বিতরণ রোধ করার জন্য ইন-মডেল সনাক্তকরণ সরঞ্জাম স্থাপনের সম্ভাবনার দিকেও ইঙ্গিত দেয়।

ডেভেলপাররা কীভাবে এআই প্যাকেজ হ্যালুসিনেশন থেকে রক্ষা করতে পারেন

এই হুমকি মোকাবেলা করার জন্য, গবেষকরা বিভিন্ন ধরণের প্রশমনের প্রস্তাব করেছেন। এর মধ্যে রয়েছে উন্নত প্রম্পট ইঞ্জিনিয়ারিং কৌশল যেমন রিট্রিভাল অগমেন্টেড জেনারেশন (RAG), প্রম্পট টিউনিং এবং স্ব-পরিমার্জন। মডেল ডেভেলপমেন্টের দিক থেকে, তত্ত্বাবধানে থাকা ফাইন-টিউনিং এবং উন্নত ডিকোডিং অ্যালগরিদমের মতো কৌশলগুলি হ্যালুসিনেশনের হার কমাতে সাহায্য করতে পারে।

জেনারেটিভ এআই সফটওয়্যার ডেভেলপমেন্টকে রূপান্তরিত করে চলেছে, এই গবেষণাটি একটি স্পষ্টভাবে মনে করিয়ে দেয় যে সুবিধার জন্য একটি মূল্য দিতে হতে পারে। ডেভেলপারদের অবশ্যই এআই-জেনারেটেড কোড সম্পর্কে সতর্ক এবং সমালোচনামূলক থাকতে হবে, বিশেষ করে যখন নির্ভরতা ব্যবস্থাপনার কথা আসে। যেকোনো প্রস্তাবিত প্যাকেজ ইনস্টল করার আগে স্ট্যাটিক বিশ্লেষণ সরঞ্জাম এবং ম্যানুয়াল পর্যালোচনাগুলিকে একীভূত করা এখন আগের চেয়ে অনেক বেশি গুরুত্বপূর্ণ।

হুমকির পটভূমি দ্রুত বিকশিত হচ্ছে, এবং এই গবেষণা যেমনটি দেখায়, আমাদের প্রতিরক্ষা ব্যবস্থাও তাই হওয়া উচিত। একসময় যা বিজ্ঞান কল্পকাহিনীর মতো মনে হত - এআই এমন সফ্টওয়্যার কল্পনা করে যা অস্তিত্বহীন - তা ব্যাপক প্রভাব সহ একটি বাস্তব সাইবার নিরাপত্তা উদ্বেগে পরিণত হয়েছে।