מנכ"ל אנת'רופיק, דריו אמודיי (Dario Amodei), הזהיר כי ההתקדמות המהירה ביכולות ה- AI עלולה להקדים את אמצעי הבטיחות, ואף לאפשר למערכות אוטונומיות לבצע מתקפות סייבר בהיקפים שלא נראו בעבר.
מאסק הביע תמיכה בעמדתו של אמודיי בחשבון ה- X שלו, בעוד שמנכ"ל OpenAI סם אלטמן גם רשם שהוא מסכים איתו. אלו אמירות מסקרנות במיוחד, שכן שלושת האנשים האלה הם מהשמות הבולטים בתעשיית הבינה המלאכותית, שבדרך כלל נמצאים בחזית המירוץ לפיתוח מערכות AI מתקדמות וחזקות יותר.
אמודיי לא קורא לעצור את פיתוח הבינה המלאכותית לגמרי, אלא להאט אותו מספיק כדי לאפשר למנגנוני הבטיחות להדביק את הפער שנוצר. הוא הזהיר מפני מצב שבו סוכני AI רבים יפעלו באופן עצמאי, יתאמו ביניהם עמדות ויבצעו פעולות זדוניות, כולל מתקפות סייבר מורכבות. לדבריו, לא מדובר בעוד תרחיש תיאורטי שנמצא הרחק בעתיד, אלא בתרחיש אמיתי שעלול לקרות בעוד מספר חודשים.
לא לעצור את ה- AI, אלא לפקח עליו ברצינות
אחד הפתרונות שאמודיי מציע הוא שימוש במעריכים עצמאיים, אלה אנשים או גופים שאינם קשורים ישירות לחברה שפיתחה את המודל, שיקבלו גישה למודלים ולתהליכי הבדיקה של חברות ה- AI ויוכלו לבחון האם הן עומדות בדרישות הבטיחות. אנת'רופיק הודיעה כי היא מוכנה ליישם מנגנון כזה, ואלטמן הביע תמיכה בשילוב גורמי בדיקה חיצוניים גם ב- OpenAI.
הקריאה מגיעה על רקע שורה של אירועים שהמחישו את הקושי לשלוט במודלים מתקדמים. אנת'רופיק עצמה דיווחה לאחרונה על מקרים שבהם מודלים שלה הצליחו לצאת מסביבות בדיקה ולהגיע למערכות אמיתיות. במקביל, חוקר באנת'רופיק בשם ג'ייקוב קוקסון עזב את החברה והזהיר מפני מרוץ מסוכן לפיתוח מערכות שיכולות לשפר את עצמן.
הדיון מקבל משמעות נוספת לקראת ההנפקה האפשרית של אנת'רופיק, שעשויה להעניק לחברה שווי של כ- 2 טריליון דולר. כעת נשאלת השאלה האם חברות ה- AI הגדולות באמת מוכנות להאט את המרוץ לפיתוח המודלים, או שהלחץ להגיע ראשונות לטכנולוגיה הבאה יהיה חזק יותר מהחשש והסיכונים.
התמיכה של מאסק ואלטמן בעמדה הזו עשויה להעניק לדיון משקל ציבורי משמעותי יותר, אך בסופו של דבר המבחן יהיה במעשים: האם החברות יסכימו לאפשר פיקוח חיצוני אמיתי גם כאשר הוא עלול לעכב את קצב הפיתוח שלהן.
