חברת OpenAI הציגה מצב הפעלה חדש בשם Ultrafast, שנועד להאיץ משמעותית את קצב העיבוד של מודל הדגל שלה, GPT-5.6 Sol. לפי החברה, המצב מאפשר למודל לפעול במהירות גבוהה עד פי 14 מהמהירות הרגילה, ולהפיק עד 750 טוקנים בשנייה.
בחברה מציינים כי עד היום, מי שרצה לקבל תגובות בזמן אמת נדרש בדרך כלל לבחור במודל קטן יותר או כזה שמתמחה במשימות ספציפיות. Ultrafast נועד לשנות את המשוואה הזו ולהעניק מהירות גבוהה יותר מבלי לוותר על היכולות המתקדמות של המודל.
החברה מכוונת את היכולת החדשה בראש ובראשונה לשימושים עסקיים, שבהם תגובה מהירה עשויה להיות קריטית. מצב ה- Ultrafast מסוגל לייעל באופן דרמטי תהליכים ארגוניים מורכבים בכיסוי נרחב – החל מניהול ותגובה בזמן אמת לאירועי סייבר ותקלות תפעוליות, דרך מערכי שירות ותמיכה מתקדמים, ועד לניתוח עומק של שווקים פיננסיים ושדרוג חווית הקנייה בזירות מסחר אלקטרוני.
ההטמעה של מצב זה צפויה להעניק לחברות יתרון תחרותי משמעותי, תוך קיצור זמני תגובה ואוטומציה של ניתוח נתונים ברמות דיוק חסרות תקדים. Ultrafast מופעל בשלב זה באמצעות החומרה של Cerebras, במסגרת שיתוף הפעולה בין שתי החברות.
השירות נמצא עדיין בשלב תצוגה מקדימה וזמין למספר מצומצם של לקוחות בלבד, כאשר OpenAI מתכננת להרחיב את הגישה אליו ככל שתגדל שהתשתיות שלה יתפתחו.
המהלך מגיע על רקע המרוץ בתעשיית ה- AI לספק לא רק מודלים חכמים יותר, אלא גם תגובות מהירות מספיק, כדי שהם יוכלו להשתלב בעבודה בזמן אמת.
