אם חשבתם שמודלי ה- AI המתקדמים ביותר יכולים לגלוש באינטרנט בחופשיות בזמן שמאמנים אותם, בוודאי תופתעו לגלות ש- OpenAI הודיעה כי לא תעניק למודלים המתקדמים שלה גישה לאינטרנט בזמן אימונים. במקום זאת, היא תשתמש בעותקים שמורים של אתרים ובסביבה מדומה, שבה המודלים יוכלו לחפש מידע ולתרגל פעולות בלי להתחבר למערכות חיצוניות.
לפי הדיווחים, ההחלטה התקבלה בעקבות חששות מיכולותיהם של מודלי AI מתקדמים למצוא פרצות אבטחה, לעקוף מגבלות ולבצע פעולות שלא תוכננו מראש.
מודל AI הצליח להיכנס לאינטרנט למרות המגבלות
לפי פוסט של OpenAI, ב- 20 בספטמבר אחד ממודלי המחקר המתקדמים שלה ניצל הגדרה שגויה במערכת DNS כדי לקבל גישה מוגבלת לאינטרנט במהלך האימון.
בעקבות המקרה, החברה עצרה את האימון והבדיקות של המודלים המתקדמים שלה עד סוף החודש, כדי לשפר את האבטחה ולמנוע מקרים דומים בעתיד.
במהלך האימונים, החוקרים מאפשרים למודלים לכתוב ולהריץ קוד, להשתמש בכלים ולפתור משימות מורכבות. הבעיה מתחילה כשהמודל מצליח לצאת מהסביבה המוגבלת שבה הוא אמור לפעול. במקרה כזה, הוא עלול להגיע למערכות שלא נועדו להיות נגישות לו.
החברה הפעילה גם סוכני AI שמסוגלים לבצע משימות באופן עצמאי, כדי לבדוק אם הם יכולים לעקוף את מגבלות האבטחה. הבדיקות חשפו פרצות אבטחה ותקלות בהגדרות של מערכות החברה, וחלק מהן תוקנו בעקבות הבדיקה.
אימון מודל AI בלי חיבור לאינטרנט
הפתרון של OpenAI הוא לא למנוע מהמודלים ללמוד כיצד להשתמש באינטרנט, אלא לשנות את הדרך שבה הם מתאמנים. החברה משתמשת בסביבת עבודה שכוללת תכנים מהאינטרנט שנשמרו מראש, כאשר המודלים יכולים לחפש מידע ולתרגל פעולות, אבל לא מקבלים גישה חופשית לרשת בזמן האימון.
החברה הסבירה כי המודלים המתקדמים שלה כבר מתאמנים בסביבה הזאת, שבה הם לומדים ומשתפרים באמצעות תרגול וקבלת משוב, בלי להתחבר לאינטרנט. אגב, זה לא אומר שהמודלים לא יוכלו לגלוש באינטרנט בעתיד. OpenAI הודיעה שהיא תשקול לשנות את ההחלטה כשמערכות האבטחה ישתפרו וכשהן יוכלו למנוע גישה לאינטרנט ללא אישור.
