גוגל (Google) ממשיכה להרחיב את האחריות של הצ'אטבוט שלה ג'מיני, ומשחררת עדכון משמעותי שנועד להתמודד עם אחד הנושאים הרגישים ביותר: מצוקה נפשית של משתמשים.
במאמר שהחברה פרסמה בבלוג הרשמי שלה היא ציינה כי ג'מיני יוכל כעת לזהות משתמשים שנמצאים במצוקה נפשית או משבר, ולהציע להם באופן יזום גישה מיידית לעזרה מקצועית. במסגרת העדכון, ישולב בצ'אטבוט מודול ייעודי בשם 'Help is available' (עזרה זמינה), שיאפשר חיבור מהיר לקווי סיוע – דרך שיחה טלפונית, צ’אט או הודעות, בהתאם לשירותים המקומיים.
השקעה של מיליוני דולרים
גוגל הדגישה כי מדובר בחלק מאסטרטגיה רחבה יותר לשיפור הבטיחות של מערכות ה- AI, וציינה כי השקיעה כ- 30 מיליון דולר בתמיכה בארגוני סיוע ברחבי העולם, לצד פיתוח כלים והכשרות שיסייעו לאנשי מקצוע להתמודד עם עומסים בפניות.
עוד נמסר כי ג'מיני עבר שינויים משמעותיים בהתנהלות שלו במצבים רגישים. מעכשיו, הוא יימנע מלחזק אמונות שגויות או מסוכנות, יפנה משתמשים לעזרה אנושית, ולא יציג את עצמו כתחליף לטיפול מקצועי. בנוסף, גוגל שמה דגש מיוחד על חיזוק ההגנה והבטיחות של משתמשים צעירים.
המהלך של גוגל מגיע על רקע ביקורת רבה כלפי צ’אטבוטים בתחום בריאות הנפש, ומסמן על מעבר מצ'אטבוט שמדבר ומתכתב עם המשתמש לכזה שיודע מתי לעצור, להבין שמדובר במקרה רגיש שדורש טיפול מיוחד ולהפנות אותו לגורם מקצועי.
