மென்பொருள் விநியோகச் சங்கிலிக்கு AI மாயத்தோற்றங்கள் புதிய அச்சுறுத்தலை ஏற்படுத்துகின்றன.

குறியீட்டுக்கு செயற்கை நுண்ணறிவை நம்பியிருக்கும் டெவலப்பர்கள் மற்றும் நிறுவனங்களுக்கு ஒரு புதிய முன்னேற்றமாக, குறியீட்டை உருவாக்கும் மாதிரிகளில் AI மாயத்தோற்றங்களால் உருவாக்கப்பட்ட ஒரு புதிய விநியோகச் சங்கிலி அச்சுறுத்தலை ஆராய்ச்சியாளர்கள் கண்டுபிடித்துள்ளனர். ஸ்லோப்ஸ்குவாட்டிங் என அழைக்கப்படும் இந்த வளர்ந்து வரும் தாக்குதல் திசையன், பெரிய மொழி மாதிரிகள் (LLMs) மூலம் மாயத்தோற்றம் செய்யப்பட்ட கற்பனையான தொகுப்புகளைப் பயன்படுத்தி மென்பொருள் சுற்றுச்சூழல் அமைப்புகளில் தீங்கிழைக்கும் நடிகர்களை ஊடுருவ அனுமதிக்கும்.

LLMகள் பெரும்பாலும் தொகுப்புகளை "மாயத்தோற்றம்" செய்கின்றன - அதாவது இல்லாத மென்பொருள் சார்புகளைப் பற்றிய குறிப்புகளை பரிந்துரைக்கின்றன அல்லது செருகுகின்றன என்பதில் ஆபத்து உள்ளது. சான் அன்டோனியோவில் உள்ள டெக்சாஸ் பல்கலைக்கழகம், ஓக்லஹோமா பல்கலைக்கழகம் மற்றும் வர்ஜீனியா டெக் ஆகியவை இணைந்து நடத்திய ஆராய்ச்சியில், சோதிக்கப்பட்ட 16 பிரபலமான LLMகளில் எதுவும் இந்த நிகழ்விலிருந்து விடுபடவில்லை என்பது கண்டறியப்பட்டது.

ஸ்லாப்ஸ்குவாட்டிங் என்றால் என்ன, அது எப்படி வேலை செய்கிறது?

ஸ்லோப்ஸ்குவாட்டிங் இந்த மாயத்தோற்றக் குறைபாட்டை எடுத்துக்கொண்டு அதை ஒரு ஆயுதமாக மாற்றுகிறது. குறியீடு உருவாக்கத்தின் போது ஒரு LLM இல்லாத தொகுப்பை பரிந்துரைக்கும்போது, சைபர் குற்றவாளிகள் அந்தப் பெயரில் ஒரு தீங்கிழைக்கும் தொகுப்பை விரைவாகப் பதிவு செய்யலாம். வெளியிடப்பட்டதும், AI-உருவாக்கிய குறியீட்டை முக மதிப்பில் ஏற்றுக்கொள்ளும் எந்தவொரு டெவலப்பரும் அறியாமலேயே தீங்கிழைக்கும் தொகுப்பை இறக்குமதி செய்து இயக்கலாம். இது தனிப்பட்ட திட்டத்தை சமரசம் செய்வது மட்டுமல்லாமல், பாதிக்கப்பட்ட குறியீடு மீண்டும் பயன்படுத்தப்பட்டாலோ அல்லது பகிரப்பட்டாலோ முழு மென்பொருள் விநியோகச் சங்கிலிகளிலும் பரவக்கூடும்.

பைதான் மற்றும் ஜாவாஸ்கிரிப்ட் சோதனைக் காட்சிகளில் உருவாக்கப்பட்ட 2.23 மில்லியன் தொகுப்புகளில், கிட்டத்தட்ட 440,000 - அல்லது சுமார் 19.7% - மாயத்தோற்றம் கொண்டவை என்று ஆய்வில் கண்டறியப்பட்டுள்ளது. இவற்றில், அதிர்ச்சியூட்டும் 205,474 தனித்துவமான கற்பனையான தொகுப்பு பெயர்கள். பெரும்பாலான மாயத்தோற்ற தொகுப்புகள் - 81% - அவற்றை உருவாக்கிய குறிப்பிட்ட மாதிரிக்கு தனித்துவமானவை, வெவ்வேறு LLM களில் சீரற்ற நடத்தைகளைக் குறிக்கின்றன.

வணிக AI மாதிரிகள் குறைந்தது 5.2% வழக்குகளில் மாயத்தோற்ற தொகுப்புகளை உருவாக்கின, அதே நேரத்தில் திறந்த மூல மாதிரிகள் மாயத்தோற்ற விகிதங்கள் 21.7% ஐ எட்டியதால் கணிசமாக மோசமாக செயல்பட்டன. கவலையளிக்கும் விதமாக, இந்த பிழைகள் ஒரே நேரத்தில் ஏற்பட்டவை அல்ல. மாயத்தோற்ற தொகுப்புகளில் பாதிக்கும் மேற்பட்டவை (58%) வெறும் 10 மறு செய்கைகளுக்குள் மீண்டும் மீண்டும் தோன்றின, இது நிலைத்தன்மைக்கான தெளிவான போக்கைக் காட்டுகிறது.

மென்பொருள் மேம்பாட்டில் AI-உருவாக்கப்பட்ட குறியீட்டின் அதிகரித்து வரும் ஆபத்து

முந்தைய ஆய்வுகள் டைப்போஸ்குவாட்டிங்கின் அச்சுறுத்தலை ஒப்புக்கொண்டுள்ளன - இதில் தாக்குபவர்கள் தவறாக தட்டச்சு செய்யப்பட்ட அல்லது தவறாக வழிநடத்தும் தொகுப்பு பெயர்களைப் பயன்படுத்துகிறார்கள் - இந்த புதிய ஸ்லோப்ஸ்குவாட்டிங் தாக்குதல் கவனிக்கப்படாத மற்றும் மிகவும் ஆபத்தான மாறுபாட்டைக் குறிக்கிறது. மனித பிழையை இரையாக்கும் டைப்போஸ்குவாட்டிங் போலல்லாமல், ஸ்லோப்ஸ்குவாட்டிங் AI-உருவாக்கிய குறியீட்டின் உணரப்பட்ட அதிகாரத்தையும் நம்பகத்தன்மையையும் பயன்படுத்துகிறது.

LLMகள் தங்கள் சொந்த மாயத்தோற்றங்களை அடையாளம் காணும் திறன் கொண்டவை என்பதை ஆராய்ச்சியாளர்கள் கண்டறிந்தது மிகவும் சுவாரஸ்யமானது - அதே போல் கவலைக்குரியது. இது எதிர்கால பாதுகாப்பு வழிமுறைகளில் பயன்படுத்தப்படக்கூடிய பயன்படுத்தப்படாத சுய-ஒழுங்குமுறை திறனைக் குறிக்கிறது. தவறான அல்லது ஆபத்தான குறியீட்டின் பரவலைத் தடுக்க மாதிரி கண்டறிதல் கருவிகளைப் பயன்படுத்துவதற்கான சாத்தியக்கூறுகளையும் இது குறிக்கிறது.

AI தொகுப்பு மாயத்தோற்றங்களிலிருந்து டெவலப்பர்கள் எவ்வாறு பாதுகாக்க முடியும்

அச்சுறுத்தலை எதிர்கொள்ள, ஆராய்ச்சியாளர்கள் பல்வேறு தணிப்புகளை முன்மொழிகின்றனர். இவற்றில் மேம்பட்ட உடனடி பொறியியல் நுட்பங்களான மீட்டெடுப்பு ஆக்மென்டட் ஜெனரேஷன் (RAG), உடனடி டியூனிங் மற்றும் சுய-சுத்திகரிப்பு ஆகியவை அடங்கும். மாதிரி மேம்பாட்டு பக்கத்தில், மேற்பார்வையிடப்பட்ட ஃபைன்-ட்யூனிங் மற்றும் மேம்படுத்தப்பட்ட டிகோடிங் அல்காரிதம்கள் போன்ற உத்திகள் மாயத்தோற்ற விகிதங்களைக் குறைக்க உதவும்.

மென்பொருள் மேம்பாட்டை ஜெனரேட்டிவ் AI தொடர்ந்து மாற்றியமைத்து வருவதால், வசதிக்கு அதிக விலை கொடுக்க வேண்டியிருக்கும் என்பதை இந்த ஆய்வு தெளிவாக நினைவூட்டுகிறது. டெவலப்பர்கள் விழிப்புடன் இருக்க வேண்டும் மற்றும் AI-உருவாக்கிய குறியீட்டை விமர்சிக்க வேண்டும், குறிப்பாக சார்பு மேலாண்மைக்கு வரும்போது. பரிந்துரைக்கப்பட்ட எந்தவொரு தொகுப்புகளையும் நிறுவுவதற்கு முன் நிலையான பகுப்பாய்வு கருவிகள் மற்றும் கையேடு மதிப்புரைகளை ஒருங்கிணைப்பது இப்போது எப்போதையும் விட முக்கியமானது.

அச்சுறுத்தல் நிலப்பரப்பு வேகமாக உருவாகி வருகிறது, இந்த ஆராய்ச்சி காட்டுவது போல், நமது பாதுகாப்புகளும் அவ்வாறே இருக்க வேண்டும். ஒரு காலத்தில் அறிவியல் புனைகதையாகத் தோன்றிய - இல்லாத மென்பொருளை AI கற்பனை செய்வது - பரந்த அளவிலான தாக்கங்களுடன் மிகவும் உண்மையான சைபர் பாதுகாப்பு கவலையாக மாறியுள்ளது.