การละเมิดความปลอดภัย DeepSeek เปิดเผยช่องโหว่ AI และจุดชนวนให้เกิดการโจมตีทางไซเบอร์
DeepSeek ซึ่งเป็น AI สร้างสรรค์ใหม่ล่าสุดของจีน เป็นประเด็นที่ถูกตรวจสอบอย่างเข้มงวดด้านความปลอดภัยทางไซเบอร์นับตั้งแต่เปิดตัว นักวิจัยด้านความปลอดภัยได้เปิดเผยการเจลเบรกระบบทันทีที่เปิดเผยการทำงานภายในของโมเดลดังกล่าว ในขณะเดียวกัน DeepSeek ยังเผชิญกับการโจมตี DDoS หลายครั้ง ซึ่งบังคับให้ต้องจำกัดการลงทะเบียนผู้ใช้ใหม่ เหตุการณ์เหล่านี้เน้นย้ำถึงความเสี่ยงด้านความปลอดภัยของโมเดล AI และความซับซ้อนที่เพิ่มมากขึ้นของการโจมตีทางไซเบอร์ที่กำหนดเป้าหมายไปที่บริการ AI
สารบัญ
การเจลเบรกด้วย System Prompt ของ DeepSeek: นักวิจัยค้นพบอะไร
ไม่นานหลังจากการเปิดตัว DeepSeek นักวิจัยจากบริษัทรักษาความปลอดภัย API อย่าง Wallarm พบช่องโหว่การเจลเบรกที่เปิดเผยข้อความแจ้งของระบบทั้งหมดของโมเดล AI ข้อบกพร่องด้านความปลอดภัยประเภทนี้น่ากังวลเป็นพิเศษเนื่องจากข้อความแจ้งของระบบของ AI จะกำหนดพฤติกรรม ข้อจำกัดในการตอบสนอง และนโยบายการควบคุมเนื้อหา นักพัฒนา AI ส่วนใหญ่ รวมถึง OpenAI ที่มี ChatGPT จะใช้มาตรการที่เข้มงวดเพื่อป้องกันการรั่วไหลดังกล่าว
Wallarm ระบุในบล็อกโพสต์เมื่อวันที่ 1 กุมภาพันธ์ว่าวิธีการเจลเบรกของบริษัทใช้ประโยชน์จากตรรกะการตอบสนองของ AI ที่ใช้ความลำเอียง แม้ว่าบริษัทจะเก็บรายละเอียดทางเทคนิคบางอย่างไว้เนื่องจากนโยบายการเปิดเผยข้อมูลอย่างมีความรับผิดชอบ DeepSeek ได้รับแจ้งเกี่ยวกับปัญหานี้และได้ดำเนินการแก้ไขแล้ว อย่างไรก็ตาม Wallarm ได้เผยแพร่ข้อความแจ้งเตือนระบบฉบับเต็ม ซึ่งทำให้ผู้เชี่ยวชาญด้านความปลอดภัยสามารถวิเคราะห์กรอบการทำงานของ DeepSeek ได้
การเปิดเผยนี้ทำให้เกิดการอภิปรายเกี่ยวกับ:
- การวัดความเป็นส่วนตัวของ AI และประสิทธิภาพในการปกป้องข้อมูลผู้ใช้ของ DeepSeek
- ความลำเอียงที่อาจเกิดขึ้นได้ ในการฝึกอบรมของ DeepSeek โดยเฉพาะเมื่อพิจารณาจากการอ้างว่าอาจใช้ ข้อมูลของ OpenAI ในการฝึกอบรม
- ข้อจำกัดด้านกฎระเบียบ ที่อาจส่งผลต่อการทำงานของโมเดล AI โดยเฉพาะในประเทศจีนซึ่งมีการควบคุมเนื้อหา AI อย่างเข้มงวด
เพื่อตรวจสอบอิทธิพลที่อาจเกิดขึ้นของ OpenAI วอลลาร์มได้เปรียบเทียบข้อความแจ้งเตือนของระบบ DeepSeek กับของ ChatGPT ตามการวิเคราะห์ของ ChatGPT การตอบสนองของ DeepSeek สอดคล้องกับมาตรการปฏิบัติตามที่เข้มงวดยิ่งขึ้น ในขณะที่แนวทางของ OpenAI นั้นมีความยืดหยุ่นและเน้นที่ผู้ใช้มากกว่า
การโจมตี DDoS บน DeepSeek: การโจมตีทางไซเบอร์แบบประสานงาน
เมื่อ DeepSeek ได้รับความนิยมมากขึ้น ก็กลายเป็นเป้าหมายของการโจมตีแบบ Distributed Denial-of-Service (DDoS) ขนาดใหญ่ บริษัทประกาศว่าจำเป็นต้องบล็อกการลงทะเบียนผู้ใช้ใหม่เนื่องจากมีการโจมตีจำนวนมาก
ตามรายงานของ NSFocus ซึ่งเป็นบริษัทรักษาความปลอดภัยทางไซเบอร์ที่เฝ้าติดตามการโจมตี DeepSeek เผชิญกับการโจมตี DDoS ครั้งใหญ่สามครั้งที่กำหนดเป้าหมายที่อินเทอร์เฟซ API ในวันที่ 25, 26 และ 27 มกราคม การโจมตีแต่ละครั้งกินเวลานานประมาณ 35 นาที ซึ่งส่งผลกระทบอย่างรุนแรงต่อแพลตฟอร์มของ DeepSeek จนถึงวันที่ 28 มกราคม อินเทอร์เฟซ API ยังคงไม่สามารถใช้งานได้เนื่องจากความขัดข้องที่เกิดขึ้นอย่างต่อเนื่อง
ระบบแชท DeepSeek ยังถูกโจมตีอีกด้วย โดยพบการโจมตีแบบ DDoS ในวันที่ 20 และ 25 มกราคม โดยแต่ละครั้งกินเวลานานประมาณ 1 ชั่วโมง
วิธีการโจมตี DDoS
NSFocus ระบุเทคนิคการโจมตีตามการสะท้อนหลายวิธี รวมถึง:
- การโจมตีแบบสะท้อน NTP – การใช้ประโยชน์จากเซิร์ฟเวอร์ Network Time Protocol (NTP) เพื่อขยายปริมาณการโจมตี
- การโจมตีแบบ Memcached reflection – การใช้เซิร์ฟเวอร์ Memcached ที่กำหนดค่าไม่ถูกต้องเพื่อท่วม DeepSeek ด้วยปริมาณการรับส่งข้อมูลจำนวนมหาศาล
- การโจมตีการสะท้อน SSDP – กำหนดเป้าหมายบริการ Simple Service Discovery Protocol (SSDP) เพื่อครอบงำทรัพยากรเครือข่าย
- การโจมตีสะท้อน CLDAP – การใช้ประโยชน์จากเซิร์ฟเวอร์ Lightweight Directory Access Protocol (CLDAP) ที่ไม่ต้องใช้การเชื่อมต่อเพื่อเพิ่มปริมาณการโจมตี
การโจมตีที่มีการประสานงานกันอย่างสูง
เมื่อวันที่ 28 มกราคม DeepSeek รายงานว่าผู้โจมตีได้ปรับเปลี่ยนวิธีการเพื่อตอบสนองต่อความพยายามบรรเทาผลกระทบของบริษัท ความแม่นยำและการประสานงานของการโจมตีเหล่านี้ทำให้ NSFocus สรุปได้ว่าผู้ก่อเหตุเป็นทีมงานมืออาชีพที่มีการจัดการที่ดี ไม่ใช่แฮกเกอร์ทั่วไป
"ผู้โจมตีแสดงให้เห็นถึงความเป็นมืออาชีพอย่างสูงในทุกขั้นตอนการโจมตี ตั้งแต่การเลือกเป้าหมาย ไปจนถึงการจับเวลาการโจมตี และควบคุมความเข้มข้น" NSFocus กล่าว
แหล่งโจมตีหลักๆ ได้แก่ ระบบจากสหรัฐอเมริกา สหราชอาณาจักร และออสเตรเลีย ตามการวิเคราะห์ของบริษัทด้านการรักษาความปลอดภัยทางไซเบอร์
สิ่งนี้หมายถึงอะไรสำหรับความปลอดภัยของ AI
เหตุการณ์ DeepSeek เน้นย้ำถึงความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เพิ่มขึ้นใน AI เชิงสร้างสรรค์ ตั้งแต่ช่องโหว่การเจลเบรกไปจนถึงการโจมตีทางไซเบอร์แบบกำหนดเป้าหมาย บริการ AI กลายเป็นเป้าหมายหลักสำหรับทั้งนักวิจัยด้านความปลอดภัยและผู้กระทำผิดในปัจจุบัน
ประเด็นสำคัญ:
- การเจลเบรกด้วย AI ยังคงเป็นความท้าทายด้านความปลอดภัย – แม้แต่โมเดล AI ใหม่กว่าเช่น DeepSeek ก็ยังสามารถถอดรหัสย้อนกลับได้เพื่อเปิดเผยตรรกะภายในของพวกมัน
- การโจมตี DDoS ต่อแพลตฟอร์ม AI เพิ่มมากขึ้น – เนื่องจากบริการ AI ได้รับความนิยมมากขึ้น จึงดึงดูดการโจมตีทางไซเบอร์ที่ประสานงานกันอย่างดีขึ้น
- ความปลอดภัยของ AI ต้องพัฒนาอย่างรวดเร็ว – นักพัฒนาจะต้องใช้มาตรการป้องกันที่แข็งแกร่งเพื่อป้องกันการรั่วไหลที่รวดเร็วและป้องกันภัยคุกคามทางไซเบอร์
ในขณะที่ AI ยังคงสร้างรูปลักษณ์ใหม่ให้กับภูมิทัศน์ดิจิทัล ทีมงานด้านความปลอดภัยทางไซเบอร์ต้องก้าวไปข้างหน้าอีกหนึ่งก้าวเพื่อให้แน่ใจว่าโมเดล AI ยังคงปลอดภัยและมีความยืดหยุ่นต่อภัยคุกคามที่เกิดขึ้นใหม่