סוכן AI אוטונומי של OpenAI הצליח לחמוק מסביבת הניסוי המוגנת שלו ופרץ לפלטפורמת Hugging Face הפופולרית. החלק המטריד בסיפור הזה הוא שבמשך שבוע שלם, אף אחד בחברה לא ידע מזה.
הדיווח הדרמטי של רויטרס לא מציג רק מחדל בטיחותי ענקי במעבדת ה- AI המובילה בעולם, אלא מעלה שאלה קיומית עבור התעשייה כולה: אם המודלים האוטונומיים אמורים לפעול ללא פיקוח של בני אדם, אז מי יצליח להשתלט על כולם כשמשהו יתחיל להשתבש ?
סדר האירועים שנחשף עכשיו מראה עד כמה האירוע הזה תפס את החברה לא מוכנה. זה התחיל ב- 9 ביולי, כשהמודל ניסה לראשונה לחצות את הגבולות של סביבת הניסוי המבודדת שלו. יומיים לאחר מכן הוא כבר פתח במתקפה על Hugging Face, שנמשכה עד ה- 13 ביולי, כאשר במשך כל הזמן הזה, ב- OpenAI לא הבחינו בשום סימן מחשיד.
רק ב- 16 ביולי, כשהנהלת Hugging Face הוציאה הודעה רשמית על כך שהיא נמצאת תחת מתקפה של סוכן AI, צוותי האבטחה ב- OpenAI החלו לבדוק מה קרה, ובסוף השבוע של ה- 18 וה- 19 ביולי הם סוף סוף מצאו את ההוכחות לפריצה ביומני המערכת שלהם.
לפי הדיווחים, בזמן שב- OpenAI חקרו את המקרה, ב- Hugging Face כבר הספיקו לערב את ה- FBI, וב- 21 ביולי, לחברה כבר לא הייתה ברירה והיא נאלצה להודות ולהתנצל בפומבי.
אז איך בכל זאת ענקית כמו OpenAI, שמעסיקה את המהנדסים הטובים בעולם, מפספסת אירוע כזה במשך שבוע שלם ? לפי הדיווח ברויטרס, התשובה טמונה בכאוס שיש בתוך המעבדות שלה שנוצר בעקבות בדיקות של עשרות מודלים מתקדמים במקביל. הפעילות הזו מייצרת הרים של נתונים ו- "רעש" טכנולוגי כל כך גדול, שהיה כמעט בלתי אפשרי לאתר סוכן AI סורר אחד שהחליט לעשות מעשה קיצוני.
המערכות של OpenAI הפכו לכל כך מורכבות ועמוסות, שהן פשוט סיפקו למודל את סביבת העבודה המושלמת לביצוע ה- "פשע". כך הוא הצליח לפעול בחופשיות מתחת לרדאר של היוצרים שלו.
