ਡੀਪਸੀਕ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾ ਏਆਈ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ ਅਤੇ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਭੜਕਾਉਂਦੀ ਹੈ
ਚੀਨ ਦਾ ਨਵੀਨਤਮ ਜਨਰੇਟਿਵ ਏਆਈ, ਡੀਪਸੀਕ, ਆਪਣੀ ਸ਼ੁਰੂਆਤ ਤੋਂ ਹੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਜਾਂਚ ਦਾ ਵਿਸ਼ਾ ਰਿਹਾ ਹੈ। ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਇੱਕ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਜੇਲਬ੍ਰੇਕ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ ਹੈ ਜਿਸਨੇ ਮਾਡਲ ਦੇ ਅੰਦਰੂਨੀ ਕੰਮਕਾਜ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ। ਇਸ ਦੌਰਾਨ, ਡੀਪਸੀਕ ਨੂੰ ਡੀਡੀਓਐਸ ਹਮਲਿਆਂ ਦੀਆਂ ਲਹਿਰਾਂ ਦਾ ਵੀ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ ਹੈ, ਜਿਸ ਕਾਰਨ ਇਸਨੂੰ ਨਵੇਂ ਉਪਭੋਗਤਾ ਰਜਿਸਟ੍ਰੇਸ਼ਨਾਂ ਨੂੰ ਸੀਮਤ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪਿਆ ਹੈ। ਇਹ ਘਟਨਾਵਾਂ ਏਆਈ ਮਾਡਲਾਂ ਦੇ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਅਤੇ ਏਆਈ ਸੇਵਾਵਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਵਾਲੇ ਸਾਈਬਰ ਹਮਲਿਆਂ ਦੀ ਵਧਦੀ ਸੂਝ-ਬੂਝ ਦੋਵਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ।
ਵਿਸ਼ਾ - ਸੂਚੀ
ਡੀਪਸੀਕ ਦਾ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਜੇਲ੍ਹਬ੍ਰੇਕ: ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਕੀ ਖੋਜਿਆ
ਡੀਪਸੀਕ ਦੇ ਡੈਬਿਊ ਤੋਂ ਥੋੜ੍ਹੀ ਦੇਰ ਬਾਅਦ, ਏਪੀਆਈ ਸੁਰੱਖਿਆ ਫਰਮ ਵਾਲਆਰਮ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਜੇਲਬ੍ਰੇਕ ਕਮਜ਼ੋਰੀ ਲੱਭੀ ਜਿਸਨੇ ਏਆਈ ਮਾਡਲ ਦੇ ਪੂਰੇ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ। ਇਸ ਕਿਸਮ ਦੀ ਸੁਰੱਖਿਆ ਨੁਕਸ ਖਾਸ ਤੌਰ 'ਤੇ ਚਿੰਤਾਜਨਕ ਹੈ ਕਿਉਂਕਿ ਇੱਕ ਏਆਈ ਦਾ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਇਸਦੇ ਵਿਵਹਾਰ, ਪ੍ਰਤੀਕਿਰਿਆ ਸੀਮਾਵਾਂ ਅਤੇ ਸਮੱਗਰੀ ਸੰਚਾਲਨ ਨੀਤੀਆਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਏਆਈ ਡਿਵੈਲਪਰ, ਜਿਸ ਵਿੱਚ ਚੈਟਜੀਪੀਟੀ ਦੇ ਨਾਲ ਓਪਨਏਆਈ ਸ਼ਾਮਲ ਹੈ, ਅਜਿਹੇ ਲੀਕ ਨੂੰ ਰੋਕਣ ਲਈ ਸਖਤ ਉਪਾਅ ਕਰਦੇ ਹਨ।
ਵਾਲਆਰਮ ਨੇ 1 ਫਰਵਰੀ ਦੇ ਇੱਕ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਕਿਹਾ ਕਿ ਇਸਦੇ ਜੇਲ੍ਹਬ੍ਰੇਕ ਵਿਧੀ ਨੇ ਪੱਖਪਾਤ-ਅਧਾਰਤ AI ਪ੍ਰਤੀਕਿਰਿਆ ਤਰਕ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ, ਹਾਲਾਂਕਿ ਕੰਪਨੀ ਨੇ ਜ਼ਿੰਮੇਵਾਰ ਖੁਲਾਸਾ ਨੀਤੀਆਂ ਦੇ ਕਾਰਨ ਖਾਸ ਤਕਨੀਕੀ ਵੇਰਵਿਆਂ ਨੂੰ ਰੋਕ ਦਿੱਤਾ। ਡੀਪਸੀਕ ਨੂੰ ਇਸ ਮੁੱਦੇ ਬਾਰੇ ਸੂਚਿਤ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਉਦੋਂ ਤੋਂ ਇੱਕ ਹੱਲ ਤੈਨਾਤ ਕੀਤਾ ਗਿਆ ਹੈ। ਹਾਲਾਂਕਿ, ਵਾਲਆਰਮ ਨੇ ਪੂਰਾ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਟੈਕਸਟ ਪ੍ਰਕਾਸ਼ਤ ਕੀਤਾ, ਜਿਸ ਨਾਲ ਸੁਰੱਖਿਆ ਮਾਹਰ ਡੀਪਸੀਕ ਦੇ ਸੰਚਾਲਨ ਢਾਂਚੇ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰ ਸਕਦੇ ਸਨ।
ਇਸ ਖੁਲਾਸੇ ਨੇ ਇਸ ਬਾਰੇ ਚਰਚਾ ਛੇੜ ਦਿੱਤੀ:
- ਏਆਈ ਗੋਪਨੀਯਤਾ ਦੇ ਮਾਪ ਅਤੇ ਡੀਪਸੀਕ ਉਪਭੋਗਤਾ ਡੇਟਾ ਨੂੰ ਕਿੰਨੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਸੁਰੱਖਿਅਤ ਕਰਦਾ ਹੈ।
- ਡੀਪਸੀਕ ਦੀ ਸਿਖਲਾਈ ਵਿੱਚ ਸੰਭਾਵੀ ਪੱਖਪਾਤ , ਖਾਸ ਕਰਕੇ ਉਨ੍ਹਾਂ ਦਾਅਵਿਆਂ 'ਤੇ ਵਿਚਾਰ ਕਰਨਾ ਕਿ ਇਸਨੇ ਸਿਖਲਾਈ ਲਈ ਓਪਨਏਆਈ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਹੋ ਸਕਦੀ ਹੈ।
- ਰੈਗੂਲੇਟਰੀ ਰੁਕਾਵਟਾਂ ਜੋ AI ਮਾਡਲ ਦੇ ਕੰਮ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਖਾਸ ਕਰਕੇ ਚੀਨ ਵਿੱਚ, ਜਿੱਥੇ AI ਸਮੱਗਰੀ ਨੂੰ ਸਖ਼ਤੀ ਨਾਲ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
ਸੰਭਾਵੀ OpenAI ਪ੍ਰਭਾਵ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ, ਵਾਲਆਰਮ ਨੇ DeepSeek ਦੇ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਦੀ ਤੁਲਨਾ ChatGPT ਨਾਲ ਕੀਤੀ। ChatGPT ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਨੁਸਾਰ, DeepSeek ਦੇ ਜਵਾਬ ਸਖ਼ਤ ਪਾਲਣਾ ਉਪਾਵਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹਨ, ਜਦੋਂ ਕਿ OpenAI ਦਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਵਧੇਰੇ ਲਚਕਦਾਰ ਅਤੇ ਉਪਭੋਗਤਾ-ਕੇਂਦ੍ਰਿਤ ਹੈ।
ਡੀਪਸਿਕ 'ਤੇ ਡੀਡੀਓਐਸ ਹਮਲੇ: ਇੱਕ ਤਾਲਮੇਲ ਵਾਲਾ ਸਾਈਬਰ ਹਮਲਾ
ਜਿਵੇਂ-ਜਿਵੇਂ ਡੀਪਸੀਕ ਦੀ ਪ੍ਰਸਿੱਧੀ ਵਧਦੀ ਗਈ, ਇਹ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਵੰਡੇ ਗਏ ਡਿਨਾਇਲ-ਆਫ-ਸਰਵਿਸ (DDoS) ਹਮਲਿਆਂ ਦਾ ਨਿਸ਼ਾਨਾ ਬਣ ਗਿਆ। ਕੰਪਨੀ ਨੇ ਐਲਾਨ ਕੀਤਾ ਕਿ ਹਮਲਿਆਂ ਦੀ ਭਾਰੀ ਮਾਤਰਾ ਦੇ ਕਾਰਨ ਉਸਨੂੰ ਨਵੇਂ ਉਪਭੋਗਤਾ ਰਜਿਸਟ੍ਰੇਸ਼ਨਾਂ ਨੂੰ ਰੋਕਣਾ ਪਿਆ।
ਹਮਲਿਆਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਵਾਲੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਫਰਮ NSFocus ਦੇ ਅਨੁਸਾਰ, DeepSeek ਨੂੰ 25, 26 ਅਤੇ 27 ਜਨਵਰੀ ਨੂੰ ਇਸਦੇ API ਇੰਟਰਫੇਸ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੇ ਹੋਏ DDoS ਹਮਲਿਆਂ ਦੀਆਂ ਤਿੰਨ ਵੱਡੀਆਂ ਲਹਿਰਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ। ਹਰੇਕ ਹਮਲਾ ਲਗਭਗ 35 ਮਿੰਟ ਤੱਕ ਚੱਲਿਆ, ਜਿਸਨੇ DeepSeek ਦੇ ਪਲੇਟਫਾਰਮ ਨੂੰ ਬੁਰੀ ਤਰ੍ਹਾਂ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ। 28 ਜਨਵਰੀ ਤੱਕ, API ਇੰਟਰਫੇਸ ਅਜੇ ਵੀ ਚੱਲ ਰਹੇ ਵਿਘਨਾਂ ਕਾਰਨ ਉਪਲਬਧ ਨਹੀਂ ਸੀ।
ਡੀਪਸਿਕ ਚੈਟ ਸਿਸਟਮ 'ਤੇ ਵੀ ਹਮਲਾ ਕੀਤਾ ਗਿਆ ਸੀ, 20 ਅਤੇ 25 ਜਨਵਰੀ ਨੂੰ DDoS ਸਟ੍ਰਾਈਕ ਕੀਤੇ ਗਏ ਸਨ, ਹਰ ਇੱਕ ਲਗਭਗ ਇੱਕ ਘੰਟੇ ਤੱਕ ਚੱਲਿਆ।
DDoS ਹਮਲੇ ਦੇ ਤਰੀਕੇ
NSFocus ਨੇ ਕਈ ਪ੍ਰਤੀਬਿੰਬ-ਅਧਾਰਿਤ ਹਮਲੇ ਦੀਆਂ ਤਕਨੀਕਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- NTP ਰਿਫਲੈਕਸ਼ਨ ਹਮਲੇ - ਹਮਲੇ ਦੇ ਟ੍ਰੈਫਿਕ ਨੂੰ ਵਧਾਉਣ ਲਈ ਨੈੱਟਵਰਕ ਟਾਈਮ ਪ੍ਰੋਟੋਕੋਲ (NTP) ਸਰਵਰਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰਨਾ।
- ਮੈਮਕੈਸ਼ਡ ਰਿਫਲੈਕਸ਼ਨ ਹਮਲੇ - ਡੀਪਸੀਕ ਨੂੰ ਭਾਰੀ ਟ੍ਰੈਫਿਕ ਨਾਲ ਭਰਨ ਲਈ ਗਲਤ ਸੰਰਚਿਤ ਮੈਮਕੈਸ਼ਡ ਸਰਵਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ।
- SSDP ਰਿਫਲੈਕਸ਼ਨ ਹਮਲੇ - ਨੈੱਟਵਰਕ ਸਰੋਤਾਂ ਨੂੰ ਹਾਵੀ ਕਰਨ ਲਈ ਸਿੰਪਲ ਸਰਵਿਸ ਡਿਸਕਵਰੀ ਪ੍ਰੋਟੋਕੋਲ (SSDP) ਸੇਵਾਵਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣਾ।
- CLDAP ਰਿਫਲਿਕਸ਼ਨ ਹਮਲੇ - ਹਮਲੇ ਦੀ ਮਾਤਰਾ ਵਧਾਉਣ ਲਈ ਕਨੈਕਸ਼ਨ-ਰਹਿਤ ਲਾਈਟਵੇਟ ਡਾਇਰੈਕਟਰੀ ਐਕਸੈਸ ਪ੍ਰੋਟੋਕੋਲ (CLDAP) ਸਰਵਰਾਂ ਦਾ ਲਾਭ ਉਠਾਉਣਾ।
ਇੱਕ ਬਹੁਤ ਹੀ ਤਾਲਮੇਲ ਵਾਲਾ ਹਮਲਾ
28 ਜਨਵਰੀ ਤੱਕ, ਡੀਪਸੀਕ ਨੇ ਰਿਪੋਰਟ ਦਿੱਤੀ ਕਿ ਹਮਲਾਵਰ ਕੰਪਨੀ ਦੇ ਘਟਾਉਣ ਦੇ ਯਤਨਾਂ ਦੇ ਜਵਾਬ ਵਿੱਚ ਆਪਣੇ ਤਰੀਕਿਆਂ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾ ਰਹੇ ਸਨ। ਇਹਨਾਂ ਹਮਲਿਆਂ ਦੀ ਸ਼ੁੱਧਤਾ ਅਤੇ ਤਾਲਮੇਲ ਨੇ NSFocus ਨੂੰ ਇਹ ਸਿੱਟਾ ਕੱਢਣ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਕਿ ਅਪਰਾਧੀ ਬੇਤਰਤੀਬ ਹੈਕਰਾਂ ਦੀ ਬਜਾਏ ਇੱਕ ਪੇਸ਼ੇਵਰ, ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੰਗਠਿਤ ਟੀਮ ਸਨ।
"ਹਮਲਾਵਰ ਹਰ ਹਮਲੇ ਦੇ ਕਦਮ ਵਿੱਚ ਬਹੁਤ ਉੱਚ ਪੇਸ਼ੇਵਰਤਾ ਦਿਖਾਉਂਦਾ ਹੈ, ਟੀਚਿਆਂ ਦੀ ਚੋਣ ਕਰਨ ਤੋਂ ਲੈ ਕੇ ਹਮਲਿਆਂ ਦਾ ਸਮਾਂ ਨਿਰਧਾਰਤ ਕਰਨ ਅਤੇ ਤੀਬਰਤਾ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਤੱਕ," NSFocus ਨੇ ਕਿਹਾ।
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਫਰਮ ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਨੁਸਾਰ, ਪ੍ਰਮੁੱਖ ਹਮਲੇ ਦੇ ਸਰੋਤਾਂ ਵਿੱਚ ਸੰਯੁਕਤ ਰਾਜ, ਯੂਨਾਈਟਿਡ ਕਿੰਗਡਮ ਅਤੇ ਆਸਟ੍ਰੇਲੀਆ ਦੇ ਸਿਸਟਮ ਸ਼ਾਮਲ ਸਨ।
ਏਆਈ ਸੁਰੱਖਿਆ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ
ਡੀਪਸੀਕ ਘਟਨਾਵਾਂ ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਵਧ ਰਹੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ। ਜੇਲ੍ਹ ਬ੍ਰੇਕ ਕਮਜ਼ੋਰੀਆਂ ਤੋਂ ਲੈ ਕੇ ਨਿਸ਼ਾਨਾ ਬਣਾਏ ਸਾਈਬਰ ਹਮਲਿਆਂ ਤੱਕ, ਏਆਈ ਸੇਵਾਵਾਂ ਹੁਣ ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਖਤਰਨਾਕ ਅਦਾਕਾਰਾਂ ਦੋਵਾਂ ਲਈ ਮੁੱਖ ਨਿਸ਼ਾਨਾ ਹਨ।
ਮੁੱਖ ਗੱਲਾਂ:
- ਏਆਈ ਜੇਲ੍ਹਬ੍ਰੇਕ ਇੱਕ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀ ਬਣੇ ਹੋਏ ਹਨ - ਡੀਪਸੀਕ ਵਰਗੇ ਨਵੇਂ ਏਆਈ ਮਾਡਲਾਂ ਨੂੰ ਵੀ ਉਨ੍ਹਾਂ ਦੇ ਅੰਦਰੂਨੀ ਤਰਕ ਨੂੰ ਬੇਨਕਾਬ ਕਰਨ ਲਈ ਉਲਟਾ-ਇੰਜੀਨੀਅਰ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
- AI ਪਲੇਟਫਾਰਮਾਂ ਵਿਰੁੱਧ DDoS ਹਮਲੇ ਵੱਧ ਰਹੇ ਹਨ - ਜਿਵੇਂ-ਜਿਵੇਂ AI ਸੇਵਾਵਾਂ ਪ੍ਰਸਿੱਧੀ ਪ੍ਰਾਪਤ ਕਰਦੀਆਂ ਹਨ, ਉਹ ਵਧੇਰੇ ਉੱਚ ਤਾਲਮੇਲ ਵਾਲੇ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਆਕਰਸ਼ਿਤ ਕਰਦੀਆਂ ਹਨ।
- ਏਆਈ ਸੁਰੱਖਿਆ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ - ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਤੁਰੰਤ ਲੀਕ ਨੂੰ ਰੋਕਣ ਅਤੇ ਸਾਈਬਰ ਖਤਰਿਆਂ ਤੋਂ ਬਚਾਅ ਲਈ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਕਰਨੇ ਚਾਹੀਦੇ ਹਨ।
ਜਿਵੇਂ ਕਿ AI ਡਿਜੀਟਲ ਲੈਂਡਸਕੇਪ ਨੂੰ ਆਕਾਰ ਦੇਣਾ ਜਾਰੀ ਰੱਖਦਾ ਹੈ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਕਦਮ ਅੱਗੇ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ AI ਮਾਡਲ ਉੱਭਰ ਰਹੇ ਖਤਰਿਆਂ ਦੇ ਵਿਰੁੱਧ ਸੁਰੱਖਿਅਤ ਅਤੇ ਲਚਕੀਲੇ ਰਹਿਣ।