הענקית OpenAI תשיק בקרוב כלים חדשים שנועדו לזהות משתמשים צעירים ותעדכן את מפרט המודל (Model Spec) של ChatGPT, כדי שיוכל לתקשר עם בני נוער בגילאי 13 עד 17 בהתאם.
אתמול, OpenAI הודיעה כי מפרט המודל של ChatGPT, הקובע כיצד הצ’אטבוט אמור לפעול יתעדכן ויתווספו אליו 4 עקרונות חדשים המיועדים למשתמשים מתחת לגיל 18. לפי החברה, המטרה היא להציב את בטיחות בני הנוער בעדיפות עליונה, גם במקרים שבהם הדבר מתנגש עם יעדים אחרים. בפועל, המשמעות היא ש- ChatGPT יכוון משתמשים צעירים לבחירות בטוחות יותר, כאשר אינטרסים כמו “חופש אינטלקטואלי מקסימלי” מתנגשים עם הצורך להגן עליהם.
התייחסות מיוחדת למשתמשים צעירים
בנוסף, ההנחיות החדשות קובעות כי ChatGPT צריך לעודד “תמיכה בעולם האמיתי”, בין היתר באמצעות חיזוק קשרים מחוץ למסך והצבת ציפיות ברורות בעת אינטראקציה עם משתמשים צעירים. במפרט המודל מודגש גם כי יש “להתייחס לבני נוער כבני נוער” – להפגין חום וכבוד, מבלי להתנשא ומבלי להתייחס אליהם כמו למבוגרים.
מהלך זה מגיע על רקע החלץ ההולך וגובר מצד מחוקקים על חברות AI, בשל החשש מהשפעת הצ’אטבוטים על בריאות הנפש. OpenAI מציינת כי העדכון למפרט המודל של ChatGPT יוסיף ״מעקות בטיחות חזקים יותר, חלופות בטוחות יותר ועידוד לחפש תמיכה אמינה במצב לא מקוון כאשר שיחות עוברות לטריטוריה בעלת סיכון גבוה יותר״.
בחברה מדגישים כי במקרים שבהם יזוהו סימנים ל- ״סכנה מיידית״, ChatGPT יפנה בני נוער ליצור קשר עם שירותי חירום או גורמי סיוע ייעודיים.
מודל שיודע להעריך את גילו של המשתמש
במקביל לעדכון במפרט המודל, OpenAI מציינת כי היא נמצאת ב- ״שלבים מוקדמים״ של השקת מודל לחיזוי גיל, שמטרתו להעריך את גילו של המשתמש. במקרה שהמערכת תזהה כי ייתכן שמדובר במשתמש מתחת לגיל 18, יופעלו אוטומטית מנגנוני ההגנה המיועדים לבני נוער. עוד נמסר כי משתמשים בוגרים שסומנו בטעות כקטינים יקבלו אפשרות לאמת את גילם.
