אמזון (Amazon) חשפה כי מספר פרויקטים פנימיים שהתבססו על כלי AI חרגו משמעותית מהתקציב שהוקצה להם, כאשר המקרה הבולט ביותר הסתיים בהוצאה של כ- 1.8 מיליון דולר עבור משימת קוד פשוטה יחסית. לפי דיווח ב- Financial Times, החריגה התגלתה רק לאחר חמישה חודשים.
בפרויקט שבו נעשה שימוש נרחב ב- AI, אמזון הפעילה את מודל Claude Sonnet של אנת'רופיק (Anthropic) כדי להתאים את פרטי המחברים לרשימות המוצרים באתר החברה. התקציב המקורי שהוקצה לפרויקט חרג בכ- 860%, והעלות הכוללת הגיעה לכ- 1.8 מיליון דולר. לפי הדיווח, בתוך החברה הגדירו חלק מהמקרים כ- "יקרים בצורה קטסטרופלית", בעיקר בשל היעדר מנגנוני בקרה שאיתרו את החריגה בזמן.
היו עוד פרויקטים שחרגו מהתקציבים
מסמכים פנימיים שנחשפו הצביעו על חריגות נוספות כמו בפרויקט שבו פותח כלי לביקורת פיננסית שחרג מהתקציב בכ- 541 אלף דולר, ומערכת לוגיסטית שנועדה לקצר זמני משלוח שבה אותרה חריגה של כ- 134 אלף דולר. בעקבות האירועים הללו, מהנדסי החברה החלו לפתח מנגנוני הגנה שיזהו בזמן אמת חריגות בעלויות השימוש במודלים וכלי AI.
אחד הלקחים המרכזיים שעלו מהמקרים הללו הוא שהטמעת כלי AI בקנה מידה רחב מחייבת לא רק בחינה של איכות התוצאות, אלא גם מעקב רציף אחר העלויות התפעוליות. ללא מנגנוני בקרה מתאימים, גם משימות שנחשבות פשוטות יחסית עלולות לצבור הוצאות גבוהות לאורך זמן, במיוחד כאשר הן מבוצעות באופן אוטומטי ובהיקפים גדולים.
אמזון מסרה בתגובה כי החברה ממשיכה להתנסות, ללמוד ולשפר את אופן השימוש שלה ב- AI והדגישה כי מדובר במספר מקרים בודדים שאינם משקפים את השימוש הכולל בטכנולוגיה ברחבי הארגון. עוד צוין כי הכנסותיה הרבעוניות של החברה עולות על יותר מ- 181 מיליארד דולר, כך שהחריגות הללו מהוות פחות מ- 0.1% מהכנסותיה החודשיות, אך הן ממחישות את האתגרים הכלכליים והניהוליים הכרוכים באימוץ נרחב של כלי AI בארגוני ענק.
