הצ’אטבוט גרוק (Grok), שפותח ומתוחזק על ידי חברת xAI של אילון מאסק וזוכה לחשיפה רחבה ברשת החברתית X, הסתבך היום לאחר שהפיץ שוב ושוב מידע שגוי סביב אירוע הירי ההמוני שהתרחש בחוף בונדי שבאוסטרליה.
לפי הדיווחים, חלק מהפרטים שהוא פרסם היו שגויים או לא מאומתים, ועוררו שאלות קשות סביב אמינות ה- AI בזמן אירועי חירום מתגלגלים.
לפי Gizmodo, הצ'אטבוט פרסם שורה של פוסטים בעייתיים שבהם זיהה באופן שגוי את האזרח שעצר את אחד היורים – אחמד אל-אחמד בן ה-43, ואף הטיל ספק באמינות סרטונים ותמונות שתיעדו את מעשיו בזירה. הפרסומים השגויים הללו זכו לביקורת חריפה ברשת, במיוחד על רקע העובדה שמדובר בעדויות מצולמות שאומתו על ידי כלי תקשורת ורשויות מקומיות.
בפוסטים נוספים הרחיק גרוק לכת אף יותר: באחד מהם זיהה בטעות אדם שמופיע בתמונה כחטוף ישראלי, ובאחר שילב מידע שאינו קשור כלל לאירוע, הנוגע ליחס של צה״ל לפלסטינים. בפוסט נוסף טען הצ’אטבוט כי מי שנטרל את אחד החמושים הוא בכלל אדם אחר – איש IT בן 43 בשם אדוארד קראבטרי, טענה שהתבררה כלא נכונה.
נראה כי ב- xAI הבינו את הטעויות של גרוק ומנסים כעת למזער נזקים. לפי הדיווחים, בחברה כבר החלו לתקן חלק מהשגיאות ובין היתר עודכן פוסט שלו שבו נטען בטעות כי סרטון מהאירוע מציג בכלל את סופת הציקלון אלפרד. לאחר בדיקה נוספת, סווג הפרסום כטעות. בהמשך, הודה הצ’אטבוט בטעות וזיהה נכון את אחמד אל-אחמד, תוך שהוא מסביר כי "אי ההבנה נובעת מפוסטים ויראליים שזיהו אותו בטעות כאדוארד קראבטרי, אולי עקב טעות בדיווח או בדיחה המתייחסת לדמות בדיונית”.
עוד צוין כי הכתבה שעליה הסתמך גרוק פורסמה באתר חדשות שכמעט ואינו פעיל, ושקיימים סימנים לכך שתוכנו נוצר באמצעות AI – פרט שמעלה סימני שאלה נוספים לגבי מקורות המידע שעליהם מתבסס הצ'אטבוט.
