DeepSeek בינה מלאכותית מבוססת סינית מגבילה הרשמות חדשות על רקע התקפות סייבר וחששות אבטחה גוברים

סטארט-אפ הבינה המלאכותית הסינית DeepSeek צברה במהירות אחיזה בעולם הבינה המלאכותית, אך עם הפופולריות הגואה שלו מגיעה מערכת הולכת וגדלה של אתגרים. החברה הגבילה לאחרונה רישומי משתמשים חדשים בשל מה שהיא מתארת כהתקפות זדוניות בקנה מידה גדול על שירותיה. בעוד שמשתמשים קיימים יכולים להמשיך לגשת לפלטפורמה, הרשמות חדשות הוגבלו זמנית.

המצב מדגיש את איומי האבטחה ההולכים וגדלים עימם מתמודדות פלטפורמות בינה מלאכותית ומעורר דאגות לגבי ההשלכות הרחבות יותר של אבטחת AI, פרטיות ומתחים גיאופוליטיים סביב חברות טכנולוגיה סיניות.

התקפות סייבר מכוונות ל-DeepSeek

DeepSeek לא חשפה פרטים ספציפיים לגבי אופי התקפות אלו, אך מומחי אבטחת סייבר מאמינים שהן עשויות להיות שילוב של התקפות מניעת שירות מבוזרות (DDoS), חילוץ הנחיות מערכת וניסיונות פריצת jail שמטרתם לעקוף מגבלות תוכן או לתמרן התנהגות AI.

לדברי סטיוארט מילאר, מהנדס AI ראשי ב-Rapid7, התוקפים יכולים לבדוק את התגובות של DeepSeek לשאלות רגישות, מנסים לחלץ הנחיות מערכת או מנסים לשנות את אופן פעולת ה-AI. חילוץ מוצלח של מערכת יכול לחשוף הוראות קנייניות ועלול לחשוף את נקודות התורפה של ה-AI לניצול נוסף.

חוקר אבטחת הסייבר, אריך קרון מ- KnowBe4, ציין שהתקפות כאלה יכולות להיות מונעות על ידי גורמים שונים:

• סחיטה - תוקפים עשויים לדרוש תשלומי כופר בתמורה לעצירת שיבושים.
• חבלה תאגידית - מתחרים עלולים לנסות להחליש את המוניטין ואת מעמדה בשוק של DeepSeek.
• הגנה על השקעות - גופים המושקעים בפרויקטים מתחרים של בינה מלאכותית עלולים לראות ב-DeepSeek איום ולבקש לערער אותו.

העלייה המטאורית של DeepSeek בעולם הבינה המלאכותית

DeepSeek, שנוסדה בשנת 2023, מיקמה את עצמה במהירות כמתחרה מרכזית במירוץ הבינה המלאכותית. דגמי החברה, כולל DeepSeek-V3, עלו לכותרות ביכולתם להתחרות עם דגמי AI מערביים כמו GPT של OpenAI ו-LAMA של Meta, ואף לעלות עליהם, תוך הכשרה בשבריר מהעלות.

אפליקציית הצ'אטבוט ל-iOS שלה זינקה לאחרונה לראש טבלאות האפליקציות החינמיות של אפל בארה"ב ובבריטניה, אפילו עלתה על הפופולריות של ChatGPT של OpenAI.

גורם מרכזי מאחורי הצלחתה של DeepSeek הוא היעילות שלה. החברה טוענת שדגם ה-DeepSeek-V3 שלה דורש פחות שעות GPU באופן משמעותי בהשוואה למקבילים מעמק הסיליקון. עם הסנקציות האמריקאיות המגבילות את מכירת שבבי בינה מלאכותית מתקדמים לחברות סיניות, יעילות זו הפכה ליתרון תחרותי קריטי.

למרות פריצות דרך טכנולוגיות אלו, DeepSeek נותרה שנויה במחלוקת בשל מדיניות הצנזורה שלה וסיכוני ביטחון לאומי פוטנציאליים הקשורים לנוהלי אחסון הנתונים שלה.

פגמי אבטחה ודאגות פרטיות

DeepSeek התמודדה עם פרצות אבטחה בעבר, כולל ניצול זריקה מיידית שהתגלה על ידי חוקר האבטחה יוהן רהברגר. פגם זה יכול היה לאפשר לתוקפים להשתלט על חשבונות משתמש באמצעות מטען חוצה אתרים (XSS) המוטמע בתגובות שנוצרו בינה מלאכותית.

בנוסף, דו"ח מודיעין איומים שנערך לאחרונה על ידי Kela מצא שדגמי הבינה המלאכותית של DeepSeek פגיעים להתקפות פריצת ג'יל שמאפשרות להם ליצור תוכן לא אתי ולא חוקי, כולל:

• יצירת קוד תוכנת כופר
• הפקה של דיסאינפורמציה
• מדריכים שלב אחר שלב להכנת חומרי נפץ ורעלים
• הוראות פיתוח תוכנה זדונית

ממצאים אלה מעלים חששות אתיים רציניים לגבי האופן שבו ניתן לעשות שימוש לרעה ב-AI אם לא מאובטח כראוי.

יתרה מזאת, מדיניות הפרטיות של DeepSeek חושפת שנתוני משתמש - כולל מידע על מכשירים, פרטי רשת ונתוני תשלום - מאוחסנים בשרתים הממוקמים בסין. זה עורר דאגות במדינות מערביות, במיוחד בארצות הברית, שם הצי האמריקני המליץ לאחרונה לצוות להימנע משימוש ב-DeepSeek עקב סיכונים ביטחוניים ואתיים פוטנציאליים.

גם הרשות האיטלקית להגנת המידע פתחה בחקירה בדרישה מ-DeepSeek להבהיר כיצד היא אוספת, מאחסנת ומעבדת נתוני משתמשים. לחברה יש 20 יום להגיב לשאלות הנוגעות למקורות נתונים, הצדקות משפטיות לעיבוד, והאם אימון מודל AI כרוך בגרידת נתונים.

יריבות חדשה בינה מלאכותית בין מתחים גיאופוליטיים

הופעתה של DeepSeek מוסיפה מימד חדש למירוץ הבינה המלאכותית העולמית, במיוחד כשהמתחים הטכנולוגיים בין ארה"ב לסין ממשיכים להסלים. קהילת הבינה המלאכותית שמה לב, כאשר מנכ"ל OpenAI, סם אלטמן, כינה את מודל ההיגיון של DeepSeek "מרשים" והכיר בו כמתחרה לגיטימי.

מעניין לציין, ג'ים פאן של NVIDIA ציין ש-DeepSeek "שומרת על המשימה המקורית של OpenAI בחיים" על ידי התמקדות במחקר פתוח ובנגישות רחבה - הצהרה המבקרת בעדינות את המעבר האחרון של OpenAI לעבר מודלים של קוד סגור.

סין, בינתיים, הגנה על עמדתה לגבי תקנות טכנולוגיה, וטענה שהיא מאפשרת לחברות בינה מלאכותית גלובליות לפעול כל עוד הן פועלות לפי החוקים המקומיים. עם זאת, נותרו חששות לגבי האופן שבו חברות בינה מלאכותית סיניות עשויות להיות מושפעות מתקנות ממשלתיות, מדיניות צנזורה והנחיות ביטחון לאומי.

רגע מרכזי לאבטחת AI

העלייה של DeepSeek מוכיחה שסין עושה צעדים רציניים בפיתוח בינה מלאכותית, אך היא גם מדגישה את אתגרי אבטחת הסייבר ההולכים וגדלים שעומדות בפני חברות בינה מלאכותית. בין אם מדובר בהתקפות סייבר זדוניות, חששות לפרטיות או בדיקה גיאופוליטית, המסע של DeepSeek מדגיש את יחסי הגומלין המורכבים בין חדשנות בינה מלאכותית, אבטחה ופוליטיקה גלובלית.

עבור משתמשים, אירועים אלה משמשים תזכורת להיות זהירים לגבי פלטפורמות AI המטפלות בנתונים רגישים, במיוחד אלה עם מדיניות פרטיות אטומה ופגיעויות אבטחה פוטנציאליות. ככל שה-AI ממשיך להתפתח, הבטחת אמצעי אבטחת סייבר חזקים ונהלי נתונים שקופים תהיה חיונית עבור חברות המעוניינות לשמור על אמון המשתמשים ואמינות גלובלית.