בתקופה שבה AI (בינה מלאכותית) כבר מצליח ליצור תמונות וסרטונים מציאותיים מתמיד, עולה שאלה מאוד חשובה: האם אנחנו, בני האדם, מסוגלים להבחין בין תמונה אמיתית לכזו שנוצרה על ידי AI ?
מחקר חדש שפורסם על ידי מעבדת "AI for Good" של מיקרוסופט חושף תמונה עגומה למדי. מסתבר שבני אדם מתקשים בזיהוי תמונות שנוצרו על ידי מודלי AI, כמו ChatGPT, Copilot, Gemini ועוד. הממצאים הללו מעלים לא מעט חששות לגבי עתיד האמינות הדיגיטלית והצורך הבוער בפיתוח כלים ואסטרטגיות חדשות להתמודדות עם מציאות משתנה זו.
עשרות אלפי משתתפים בחנו מאות אלפי תמונות
כדי לבחון את יכולות הזיהוי של העין האנושית, המחקר של מיקרוסופט הסתמך על נתונים שנאספו ממשחק מקוון (אונליין) שנקרא "אמיתי או לא ?". יותר מ- 12,500 משתתפים מרחבי העולם השתתפו בניסוי ובחנו כ- 287,000 תמונות.
התמונות הוצגו למשתתפים באופן אקראי, כאשר חלק מהן היו אמיתיות וחלק נוצרו במלואן על ידי AI. במהלך הצגת התמונות המשתתפים נדרשו להחליט אילו מהן אמיתיות ואילו מזויפות.
תוצאות המחקר הצביעו על תמונה מדאיגה – שיעור ההצלחה הכללי של המשתתפים בזיהוי תמונות AI עמד על כ- 62% בלבד. נתון זה מדגיש את הקושי המהותי של בני האדם להבחין בין תוכן ויזואלי אותנטי למזויף.
עוד נתון מעניין שעלה מן המחקר הוא שקל יותר, באופן יחסי, לזהות תמונות מזויפות של פנים מאשר של נופים, אם כי גם במקרה זה מדובר בפער קטן של אחוזים בודדים. ממצאים אלו מעידים על כך שהטכנולוגיה עברה את יכולות התפיסה האנושית ומעמידים בסימן שאלה את יכולתנו להבחין באמת בין מציאות לזיוף.
סימון תמונות שנוצרו על ידי AI לא תמיד עוזר
בעקבות ממצאי המחקר המדאיגים, מיקרוסופט קוראת לסימון ברור של תמונות שנוצרו על ידי AI, כדי לסייע למשתמשים להבחין בין תוכן אמיתי למזויף. אולם, מומחים בתחום טוענים כי קל מאוד לעקוף סימון כזה באמצעות חיתוך (Cropping) פשוט של התמונה. פעולה כזו, שדורשת מיומנות מינימלית בלבד, עלולה להסיר כל סימן זיהוי ויזואלי שהוטמע בתמונה המקורית ובכך להחזיר אותה למעמד של "אמיתית" לכאורה.
דילמה זו מדגישה את המורכבות של המאבק במידע ויזואלי מזויף ומעלה את הצורך בפתרונות טכנולוגיים ורגולטוריים מתוחכמים ויעילים יותר, שיצליחו לעמוד בקצב ההתפתחות המהיר של כלי AI ליצירת תמונות.
