חברת OpenAI הודיעה כי בחודש הבא היא תשיק מערכת חדשה ומתקדמת לבקרת הורים ב- ChatGPT.
המערכת תאפשר להורים לקשר את החשבון שלהם לחשבונות של הילדים, לפקח על ההתכתבויות בצ’אט ולהגדיר מגבלות שימוש בהתאם לצרכים ולרמת הבגרות של הילד. המטרה היא להבטיח שימוש בטוח ואחראי בטכנולוגיה, תוך שמירה על חוויית השימוש וגישה למידע בצורה מבוקרת.
המערכת לבקרת הורים תאפשר גם לכבות את אפשרויות הזיכרון והיסטוריית השיחות, וגם תשלח התראות אוטומטיות להורים במידה שהצ’אט יזהה שהילד נמצא במצוקה חריפה.
החברה מציינת כי במהלך 120 הימים הקרובים יתווספו אפשרויות אבטחה נוספות כחלק ממאמץ רחב יותר שלה להפוך את השימוש ב- ChatGPT לבטוח יותר, והיא מדגישה כי כל היוזמות הללו מתבצעות בליווי והכוונה של מומחים בתחום.
ההשקה של מערכת לבקרת ההורים מגיעה על רקע תביעה ציבורית שעלתה לכותרות בשבוע שעבר, שבה טענו הורים של מתבגר מארצות הברית ש- ChatGPT סייע לבנם לתכנן את התאבדותו. התביעה הוגשה בבית המשפט העליון של קליפורניה על ידי מאט ומריה ריין, הוריו של אדם ריין בן ה- 16 ומהווה את התביעה הראשונה נגד OpenAI בגין מוות ברשלנות.
במסגרת התביעה הוצגו יומני שיחות בין אדם, שנפטר באפריל, לבין ChatGPT, שבהם הוא סיפר לו על מחשבותיו. המשפחה טוענת כי הצ'אטבוט אישרה וחיזקה את המחשבות ההרסניות שלו, מה שהוביל להחמרת מצבו ולפעולה הטראגית.
אירוע זה הדגיש את הצורך בהגנה מוגברת ובכלים שמיועדים לשימוש בטוח יותר של בני נוער בטכנולוגיה הזו.
