AI-ਪਾਵਰਡ ਮਾਲਵੇਅਰ 10,000 ਰੂਪਾਂ ਦੀ ਸਿਰਜਣਾ ਨਾਲ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਹਾਵੀ ਕਰਨ ਦੀ ਧਮਕੀ ਦਿੰਦਾ ਹੈ
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ ਮਾਲਵੇਅਰ ਵਿਕਾਸ ਨੂੰ ਸੁਪਰਚਾਰਜ ਕਰਨ ਲਈ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਦੀ ਸੰਭਾਵਿਤ ਦੁਰਵਰਤੋਂ 'ਤੇ ਅਲਾਰਮ ਵੱਜ ਰਹੇ ਹਨ। ਪਾਲੋ ਆਲਟੋ ਨੈੱਟਵਰਕ ਦੀ ਯੂਨਿਟ 42 ਦੁਆਰਾ ਇੱਕ ਨਵਾਂ ਵਿਸ਼ਲੇਸ਼ਣ ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ LLMs, ਜਦੋਂ ਕਿ ਸਕਰੈਚ ਤੋਂ ਮਾਲਵੇਅਰ ਬਣਾਉਣ ਵਿੱਚ ਮਾਹਰ ਨਹੀਂ ਹੁੰਦੇ ਹਨ, ਵੱਡੇ ਪੈਮਾਨੇ 'ਤੇ ਮੌਜੂਦਾ ਖਤਰਨਾਕ ਕੋਡ ਨੂੰ ਮੁੜ-ਲਿਖ ਸਕਦੇ ਹਨ ਅਤੇ ਅਸਪਸ਼ਟ ਕਰ ਸਕਦੇ ਹਨ, ਅਜਿਹੇ ਰੂਪ ਬਣਾਉਂਦੇ ਹਨ ਜੋ 88% ਕੇਸਾਂ ਵਿੱਚ ਖੋਜ ਤੋਂ ਬਚਦੇ ਹਨ।
ਇਹ ਇਸ ਬਾਰੇ ਗੰਭੀਰ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰਦਾ ਹੈ ਕਿ ਕਿਵੇਂ ਧਮਕੀ ਦੇਣ ਵਾਲੇ ਐਕਟਰ ਸਾਈਡਸਟੈਪ ਡਿਟੈਕਸ਼ਨ ਸਿਸਟਮ, ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਮਾਡਲਾਂ ਨੂੰ ਡੀਗਰੇਡ ਕਰਨ, ਅਤੇ ਮਾਲਵੇਅਰ ਦੇ ਇੱਕ ਲਗਾਤਾਰ ਵਧਦੇ ਹਥਿਆਰ ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਲਈ ਜਨਰੇਟਿਵ AI ਦਾ ਸ਼ੋਸ਼ਣ ਕਰ ਸਕਦੇ ਹਨ।
ਵਿਸ਼ਾ - ਸੂਚੀ
ਏਆਈ-ਵਿਸਤ੍ਰਿਤ ਮਾਲਵੇਅਰ ਰਚਨਾ ਦਾ ਮਕੈਨਿਕਸ
ਯੂਨਿਟ 42 ਦੇ ਅਨੁਸਾਰ, ਅਪਰਾਧੀ LLMs ਨੂੰ ਖਤਰਨਾਕ JavaScript ਕੋਡ 'ਤੇ ਪਰਿਵਰਤਨ ਕਰਨ ਲਈ ਕਹਿ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਲਈ ਮੁੜ ਲਿਖੀਆਂ ਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਫਲੈਗ ਕਰਨਾ ਵਧੇਰੇ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦਾ ਹੈ। ਰਵਾਇਤੀ ਗੁੰਝਲਦਾਰ ਸਾਧਨਾਂ ਦੇ ਉਲਟ ਜੋ ਘੱਟ ਯਕੀਨਨ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਦੇ ਹਨ, LLM ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਰੀਰਾਈਟਸ ਵਧੇਰੇ ਕੁਦਰਤੀ ਅਤੇ ਖੋਜਣ ਵਿੱਚ ਮੁਸ਼ਕਲ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ।
ਮੁੱਖ ਪਰਿਵਰਤਨ ਤਕਨੀਕਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- ਵੇਰੀਏਬਲ ਦਾ ਨਾਮ ਬਦਲਣਾ
- ਸਤਰ ਵੰਡਣਾ
- ਜੰਕ ਕੋਡ ਦਾ ਸੰਮਿਲਨ
- ਖਾਲੀ ਥਾਂ ਨੂੰ ਹਟਾਉਣਾ
- ਸੰਪੂਰਨ ਕੋਡ ਮੁੜ ਲਾਗੂ ਕਰਨਾ
ਹਰੇਕ ਦੁਹਰਾਓ ਇੱਕ ਨਵਾਂ ਮਾਲਵੇਅਰ ਰੂਪ ਤਿਆਰ ਕਰਦਾ ਹੈ ਜੋ ਅਸਲ ਖਤਰਨਾਕ ਕਾਰਜਸ਼ੀਲਤਾ ਨੂੰ ਕਾਇਮ ਰੱਖਦਾ ਹੈ ਜਦੋਂ ਕਿ ਇਸਦੇ ਖੋਜੇ ਜਾਣ ਦੀਆਂ ਸੰਭਾਵਨਾਵਾਂ ਨੂੰ ਮਹੱਤਵਪੂਰਣ ਰੂਪ ਵਿੱਚ ਘਟਾਉਂਦਾ ਹੈ।
ਯੂਨਿਟ 42 ਨੇ ਮੌਜੂਦਾ ਮਾਲਵੇਅਰ ਨਮੂਨਿਆਂ ਤੋਂ 10,000 JavaScript ਰੂਪਾਂ ਨੂੰ ਬਣਾਉਣ ਲਈ LLM ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇਸ ਪਹੁੰਚ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ। ਇਹਨਾਂ ਰੂਪਾਂ ਨੇ ਮਾਲਵੇਅਰ ਵਰਗੀਕਰਣ ਨੂੰ ਸਫਲਤਾਪੂਰਵਕ ਧੋਖਾ ਦਿੱਤਾ, ਜਿਸ ਵਿੱਚ ਫਿਸ਼ਿੰਗਜੇਐਸ ਅਤੇ ਇਨੋਸੈਂਟ ਟੂਲ ਪ੍ਰੋਵਨ ਗਿਲਟੀ (IUPG) ਵਰਗੇ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਮਾਡਲ ਸ਼ਾਮਲ ਹਨ। ਬਹੁਤ ਸਾਰੇ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਵਾਇਰਸ ਟੋਟਲ ਪਲੇਟਫਾਰਮ ਵੀ ਮੁੜ ਲਿਖੀਆਂ ਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਖਤਰਨਾਕ ਵਜੋਂ ਖੋਜਣ ਵਿੱਚ ਅਸਫਲ ਰਿਹਾ।
ਏਆਈ ਓਫਸਕੇਸ਼ਨ ਦਾ ਖਤਰਨਾਕ ਕਿਨਾਰਾ
obfuscator.io ਵਰਗੇ ਪੁਰਾਣੇ ਟੂਲਸ ਦੇ ਉਲਟ, ਜੋ ਅਜਿਹੇ ਪੈਟਰਨ ਪੈਦਾ ਕਰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਖੋਜਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਫਿੰਗਰਪ੍ਰਿੰਟ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, LLM-ਅਧਾਰਿਤ ਰੀਰਾਈਟਸ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਵਧੀਆ ਹਨ। ਉਹ ਜਾਇਜ਼ ਕੋਡ ਦੇ ਨੇੜੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਮਸ਼ੀਨ ਲਰਨਿੰਗ (ML) ਮਾਡਲਾਂ ਅਤੇ ਐਂਟੀਵਾਇਰਸ ਟੂਲਸ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਔਖਾ ਬਣਾਉਂਦੇ ਹਨ।
ਇਸ ਵਿਧੀ ਦਾ ਪ੍ਰਭਾਵ ਡੂੰਘਾ ਹੈ:
- ਮਾਲਵੇਅਰ ਵਰਗੀਕਰਣਾਂ ਨੂੰ ਭੈੜੀ ਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਸੁਭਾਵਕ ਵਜੋਂ ਲੇਬਲ ਕਰਨ ਲਈ ਧੋਖਾ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ।
- ML ਮਾਡਲਾਂ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਗਿਰਾਵਟ ਆਉਂਦੀ ਹੈ, ਮਾਲਵੇਅਰ ਰੂਪਾਂ ਦੇ ਨਿਰੰਤਰ ਵਿਕਾਸ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਲਈ ਸੰਘਰਸ਼ ਕਰਦੇ ਹੋਏ।
- ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਪੁਰਾਣੇ ਹੋਣ ਦਾ ਖਤਰਾ ਹੈ ਕਿਉਂਕਿ ਵਿਰੋਧੀ ਲਗਾਤਾਰ ਤਾਜ਼ੇ, ਅਣਪਛਾਤੇ ਮਾਲਵੇਅਰ ਪੈਦਾ ਕਰਦੇ ਹਨ।
ਵਿਆਪਕ ਸਾਈਬਰ ਕ੍ਰਾਈਮ ਲਈ ਐਲਐਲਐਮ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨਾ
ਇਹ ਰੁਝਾਨ ਮਾਲਵੇਅਰ ਵਿਕਾਸ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ ਹੈ। ਖਤਰਨਾਕ ਅਭਿਨੇਤਾ WormGPT ਵਰਗੇ ਠੱਗ ਸਾਧਨਾਂ ਦਾ ਲਾਭ ਉਠਾ ਰਹੇ ਹਨ, ਜੋ ਫਿਸ਼ਿੰਗ ਮੁਹਿੰਮਾਂ ਨੂੰ ਸਵੈਚਲਿਤ ਕਰਨ ਲਈ ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਅਤੇ ਖਾਸ ਪੀੜਤਾਂ ਲਈ ਬਣਾਏ ਗਏ ਸੋਸ਼ਲ ਇੰਜੀਨੀਅਰਿੰਗ ਹਮਲਿਆਂ ਨੂੰ ਯਕੀਨ ਦਿਵਾਉਣ ਲਈ ਕਰਾਫਟ ਕਰਦੇ ਹਨ।
ਜਦੋਂ ਕਿ LLM ਪ੍ਰਦਾਤਾਵਾਂ ਨੇ ਦੁਰਵਿਵਹਾਰ ਨੂੰ ਸੀਮਤ ਕਰਨ ਲਈ ਪਹਿਰੇਦਾਰਾਂ ਨੂੰ ਲਾਗੂ ਕੀਤਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਓਪਨਏਆਈ ਦੁਆਰਾ ਅਕਤੂਬਰ 2024 ਵਿੱਚ 20 ਧੋਖੇਬਾਜ਼ ਓਪਰੇਸ਼ਨਾਂ ਨੂੰ ਹਾਲ ਹੀ ਵਿੱਚ ਬਲਾਕ ਕਰਨਾ, ਧਮਕੀ ਦੇਣ ਵਾਲੇ ਅਦਾਕਾਰ ਲਗਾਤਾਰ ਇਹਨਾਂ ਪਾਬੰਦੀਆਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਤਰੀਕੇ ਲੱਭ ਰਹੇ ਹਨ।
ਸਿਲਵਰ ਲਾਈਨਿੰਗ: ਅੱਗ ਨਾਲ ਅੱਗ ਨਾਲ ਲੜਨਾ
ਖਤਰਿਆਂ ਦੇ ਬਾਵਜੂਦ, ਮਾਲਵੇਅਰ ਨੂੰ ਅਸਪਸ਼ਟ ਕਰਨ ਲਈ ਵਰਤੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਉਹੀ LLM-ਚਾਲਿਤ ਤਕਨੀਕਾਂ ਬਚਾਅ ਕਰਨ ਵਾਲਿਆਂ ਦੀ ਵੀ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਯੂਨਿਟ 42 ਸਿਖਲਾਈ ਡੇਟਾ ਤਿਆਰ ਕਰਨ ਲਈ ਇਹਨਾਂ AI ਤਰੀਕਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਜੋ ਮਾਲਵੇਅਰ ਖੋਜ ਮਾਡਲਾਂ ਦੀ ਮਜ਼ਬੂਤੀ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਂਦਾ ਹੈ। ਵਰਗੀਕਰਣਕਾਰਾਂ ਨੂੰ ਗੁੰਝਲਦਾਰ ਕੋਡ ਦੀਆਂ ਹੋਰ ਉਦਾਹਰਣਾਂ ਦੇ ਕੇ, ਖੋਜਕਰਤਾ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਸਭ ਤੋਂ ਉੱਨਤ ਰੂਪਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਦੀ ਆਪਣੀ ਯੋਗਤਾ ਨੂੰ ਵਧਾ ਸਕਦੇ ਹਨ।
ਉਭਰਦੀਆਂ AI ਕਮਜ਼ੋਰੀਆਂ: TPUXtract ਅਟੈਕ
LLM-ਸੰਚਾਲਿਤ ਮਾਲਵੇਅਰ ਦਾ ਵਾਧਾ ਸਿਰਫ ਏਆਈ-ਸੰਬੰਧੀ ਖਤਰਾ ਨਹੀਂ ਹੈ ਜੋ ਸੁਰਖੀਆਂ ਬਣਾਉਂਦਾ ਹੈ। ਉੱਤਰੀ ਕੈਰੋਲੀਨਾ ਸਟੇਟ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਸਾਈਡ-ਚੈਨਲ ਹਮਲੇ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ ਹੈ, ਜਿਸ ਨੂੰ TPUXtract ਡੱਬ ਕੀਤਾ ਗਿਆ ਹੈ, ਜੋ ਗੂਗਲ ਦੇ ਐਜ ਟੈਂਸਰ ਪ੍ਰੋਸੈਸਿੰਗ ਯੂਨਿਟਾਂ (ਟੀਪੀਯੂ) ਤੋਂ AI ਮਾਡਲ ਆਰਕੀਟੈਕਚਰ ਚੋਰੀ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹੈ।
ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਇਨਫਰੈਂਸ ਦੇ ਦੌਰਾਨ ਨਿਕਲੇ ਇਲੈਕਟ੍ਰੋਮੈਗਨੈਟਿਕ ਸਿਗਨਲਾਂ ਨੂੰ ਕੈਪਚਰ ਕਰਕੇ, ਹਮਲਾਵਰ 99.91% ਸ਼ੁੱਧਤਾ ਨਾਲ ਲੇਅਰ ਕਿਸਮਾਂ, ਨੋਡ ਨੰਬਰ, ਫਿਲਟਰ ਆਕਾਰ, ਅਤੇ ਐਕਟੀਵੇਸ਼ਨ ਫੰਕਸ਼ਨਾਂ ਵਰਗੇ ਵੇਰਵਿਆਂ ਨੂੰ ਐਕਸਟਰੈਕਟ ਕਰ ਸਕਦੇ ਹਨ। ਹਾਲਾਂਕਿ ਇਸ ਹਮਲੇ ਲਈ ਡਿਵਾਈਸ ਅਤੇ ਮਹਿੰਗੇ ਉਪਕਰਣਾਂ ਤੱਕ ਭੌਤਿਕ ਪਹੁੰਚ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਇਹ ਬੌਧਿਕ ਸੰਪੱਤੀ ਲਈ ਗੰਭੀਰ ਖਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ ਅਤੇ ਫਾਲੋ-ਅਪ ਸਾਈਬਰ ਹਮਲਿਆਂ ਦੀ ਸਹੂਲਤ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦਾ ਹੈ।
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ
ਜਨਰੇਟਿਵ AI ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਾਸ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਲਈ ਦੋ ਧਾਰੀ ਤਲਵਾਰ ਹੈ । ਜਦੋਂ ਕਿ ਇਹ ਨਵੀਨਤਾ ਲਈ ਨਵੇਂ ਦਰਵਾਜ਼ੇ ਖੋਲ੍ਹਦਾ ਹੈ, ਇਹ ਸਾਈਬਰ ਅਪਰਾਧੀਆਂ ਲਈ ਬੇਮਿਸਾਲ ਸਾਧਨ ਵੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
- ਸੰਗਠਨਾਂ ਨੂੰ ਸਰਗਰਮੀ ਨਾਲ ਕੰਮ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ , AI ਦੁਆਰਾ ਚਲਾਏ ਜਾਣ ਵਾਲੇ ਅਸ਼ਲੀਲਤਾ ਤਕਨੀਕਾਂ ਦੇ ਅਨੁਕੂਲ ਹੋਣ ਦੇ ਸਮਰੱਥ ਉੱਨਤ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
- ਨੀਤੀ ਨਿਰਮਾਤਾਵਾਂ ਨੂੰ ਦੁਰਵਰਤੋਂ ਨੂੰ ਰੋਕਣ ਲਈ ਸਖ਼ਤ ਨਿਯੰਤਰਣ ਲਾਗੂ ਕਰਦੇ ਹੋਏ AI ਦੀ ਨੈਤਿਕ ਵਰਤੋਂ ਲਈ ਸਪੱਸ਼ਟ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਸਥਾਪਤ ਕਰਨੇ ਚਾਹੀਦੇ ਹਨ ।
- ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵਿਰੋਧੀਆਂ ਨੂੰ ਪਛਾੜਨ ਲਈ AI ਦਾ ਲਾਭ ਉਠਾਉਣਾ ਚਾਹੀਦਾ ਹੈ , ਅਜਿਹੇ ਲਚਕੀਲੇ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਵਿਕਾਸ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਵਿਕਸਿਤ ਹੋ ਰਹੇ ਖਤਰਿਆਂ ਦਾ ਮੁਕਾਬਲਾ ਕਰ ਸਕਦੇ ਹਨ।
ਏਆਈ ਮਾਲਵੇਅਰ ਦਾ ਭਵਿੱਖ
LLMs ਦੀ 10,000 ਮਾਲਵੇਅਰ ਰੂਪਾਂ ਨੂੰ ਬਣਾਉਣ ਅਤੇ 88% ਮਾਮਲਿਆਂ ਵਿੱਚ ਖੋਜ ਤੋਂ ਬਚਣ ਦੀ ਸਮਰੱਥਾ ਸਾਈਬਰ ਖਤਰਿਆਂ ਦੇ ਵਧ ਰਹੇ ਸੂਝ-ਬੂਝ ਦੀ ਪੂਰੀ ਯਾਦ ਦਿਵਾਉਂਦੀ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਟੈਕਨਾਲੋਜੀ ਵਿਕਸਿਤ ਹੁੰਦੀ ਹੈ, ਉਸੇ ਤਰ੍ਹਾਂ ਸਾਡੀ ਰੱਖਿਆ ਵੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ। ਕਾਰੋਬਾਰਾਂ, ਸਰਕਾਰਾਂ, ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਪੇਸ਼ੇਵਰਾਂ ਨੂੰ ਖਤਰਨਾਕ ਅਦਾਕਾਰਾਂ ਤੋਂ ਅੱਗੇ ਰਹਿਣ ਅਤੇ AI-ਸੰਚਾਲਿਤ ਹਮਲਿਆਂ ਤੋਂ ਡਿਜੀਟਲ ਸੰਸਾਰ ਦੀ ਰੱਖਿਆ ਕਰਨ ਲਈ ਨਵੀਨਤਾਕਾਰੀ ਰਣਨੀਤੀਆਂ ਨੂੰ ਅਪਣਾਉਣੀ ਚਾਹੀਦੀ ਹੈ।