תמונות שנוצרו באמצעות AI נמצאות היום כמעט בכל מקום ברשת, החל מהפיד ברשתות החברתיות, דרך תוצאות החיפוש של גוגל ועד לפרסומות. ככל שכלי ה- AI הופכים למתקדמים יותר, כך קשה יותר להבדיל בין תמונה אמיתית לכזו שנוצרה באופן מלאכותי.
מחוללי התמונות החדשים כבר מסוגלים ליצור תמונות שנראות מציאותיות להפליא, עד כדי כך שגם מבט מקרוב לא תמיד יספיק כדי לזהות שמדובר בזיוף. התופעה הזו, שזכתה לכינוי 'AI Slop', רק צפויה להתרחב ולהקשות עלינו לסמוך על תכנים שאנחנו נתקלים בהם ברשת.
אז איך בכל זאת אפשר לזהות תמונה שנוצרה באמצעות כלי AI כזה או אחר ? ישנם חמישה סימנים שכדאי להכיר, לצד כלים חינמיים שיכולים לעזור לכם לגלות מי באמת עומד מאחורי התמונה.
6 אצבעות לי יש
אחת הדרכים לזהות תמונות שנוצרו באמצעות AI היא להסתכל מקרוב על הידיים ועל מבנה הגוף של האנשים שמופיעים בהן. במשך שנים, מחוללי תמונות התקשו ליצור ידיים שנראות טבעיות, ולעיתים הציגו אנשים עם אצבעות נוספות, אצבעות מחוברות, מפרקים במקומות לא הגיוניים או ציפורניים חסרות. גם אם הידיים נראות תקינות, תמיד כדאי לבדוק את שאר חלקי הגוף, כמו המרפקים, מפרקי כף היד, הצוואר והגפיים, ולחפש פרופורציות חריגות או איברים שנראים לא טבעיים.
בתמונה שהיוטיובר Vortex יצר עם Leonardo.ai ניתן לראות את השחקן ג'ים קארי מרים את ידו מול המצלמה, אך במבט מקרוב מתגלה טעות אנטומית בולטת: במקום חמש אצבעות, כפי שאמור להיות, מופיעות בידו שש אצבעות. היד נראית במבט ראשון טבעית למדי, אך האצבע הנוספת מסגירה את העובדה שהתמונה נוצרה באמצעות כלי AI.
מדובר באחת הטעויות המוכרות של מחוללי תמונות, שעדיין מתקשים ליצור מבנה אנטומי מדויק. מקרים כאלה ממחישים מדוע כדאי לבחון היטב את הידיים והאצבעות של אנשים בתמונות שנראות מציאותיות, שכן דווקא הפרטים הקטנים עשויים לחשוף את הזיוף.
הפרטים הקטנים בטקסט
אחת הדרכים הפשוטות ביותר לזהות תמונה שנוצרה באמצעות AI היא לבדוק את הטקסט שמופיע בה. מחוללי תמונות רבים עדיין מתקשים ליצור טקסט ברור וקריא, ולעיתים האותיות נראות מעוותות, משובשות או מתחברות למילים שאין להן שום משמעות.
הבעיה בולטת במיוחד כשמדובר בטקסטים בעברית, שאיתם רוב מחוללי התמונות עדיין מתקשים, למעט כלים כמו ג'מיני (Gemini) שהציגו שיפור משמעותי בתחום. אם אתם נתקלים בתמונה של שלט, כרזה, עטיפת ספר או אפילו חולצה עם כיתוב שנראה מעט מוזר, כדאי להגדיל את התמונה ולבחון את האותיות מקרוב.
גם אם התמונה נראית מציאותית לחלוטין, טקסט משובש, שגיאות כתיב או אותיות שמופיעות בצורה לא הגיונית עשויים להסגיר שמדובר בתמונה שנוצרה באמצעות AI.
העור מושלם מדי והעיניים נראות מוזרות
תמונה שנוצרה באמצעות AI יכולה לפעמים להיראות מציאותית להפליא, אך לפעמים יש בה משהו שפשוט לא מרגיש טבעי.
כשמסתכלים על תמונה כדאי בהתחלה להתמקד בעיקר בפנים: העיניים עשויות להיראות מבריקות מדי, המבט עלול להיות קפוא או ריק, והאישונים לא תמיד ממוקמים בצורה הגיונית. גם העור יכול להיראות חלק בצורה מוגזמת, כמעט כמו פלסטיק, השיניים עשויות להיראות לא טבעיות והשיער מושלם מדי, ללא פגמים או פרטים קטנים שמאפיינים שיער אמיתי.
מחוללי התמונות משתפרים כל הזמן, כך שקשה יותר לזהות תמונות שנוצרו באמצעות AI. עם זאת, אם משהו בתמונה נראה לכם מוזר או לא טבעי, ייתכן שזה סימן לכך שהיא נוצרה עם מחולל תמונות.
מראה חלק ומושלם מדי, כאילו האדם עבר עיבוד כבד בפוטושופ, עשוי להעיד על תמונה שנוצרה באמצעות AI. אבל קחו בחשבון שלא כל סימן כזה מעיד בהכרח על תמונה מזויפת, כך שמומלץ לבחון גם פרטים נוספים.
יותר מדי פרטים ובלאגן
לפעמים, כשיש בתמונה יותר מדי פרטים או חפצים שנראים מוזרים או לא קשורים אליה, כנראה שהיא נוצרה באמצעות AI. למשל, רקעים עמוסים מדי, דפוסים שחוזרים על עצמם, צללים בכיוונים לא הגיוניים, השתקפויות מוזרות או תאורה שנראית לא טבעית.
במקרים כאלה, התמונה עשויה להיראות עמוסה ומוגזמת, כאילו מישהו ניסה בכוח להכניס לתוכה כמה שיותר פרטים ואפקטים, כדי להפוך אותה למקצועית ומרשימה יותר. במקום ליצור תמונה מציאותית, התוצאה עלולה להיראות ממוחשבת ולא טבעית.
לכן, כשאתם נתקלים בתמונה עמוסה במיוחד, עם הרבה חפצים לא קשורים, תאורה חריגה או אלמנטים שלא משתלבים היטב בסצנה, כדאי לבחון אותה מקרוב, כי ייתכן מאוד שהיא נוצרה עם כלי AI.
התמונה נראית חלקה מדי וחסרת פרטים
הזכרנו קודם שיותר מדי פרטים או חפצים מוזרים בתמונה יכולים להעיד שהיא נוצרה באמצעות AI, אבל לפעמים דווקא ההפך הוא הנכון. יש תמונות שנוצרו באמצעות AI ונראות חלקות מדי, כאילו חסרים בהן פרטים קטנים ומרקמים שאנחנו רגילים לראות בתמונות אמיתיות. למשל, עור שנראה חלק לחלוטין, עלים מטושטשים או חלקים מידי ופרטים קטנים ברקע שחסרים או נראים לא טבעיים. כל אלה יכולים להיות סימנים לכך שהתמונה נוצרה באמצעות בינה מלאכותית.
אפשר לראות את זה בעיקר בתמונות ישנות שעברו צביעה או שיפור באמצעות AI, שבהן חלק מהפרטים שהופיעו בתמונות המקוריות פשוט נעלמו מהן. לכן, כדאי לשים לב גם לתמונות שנראות חלקות מדי, מטושטשות או חסרות מרקם טבעי, שכן גם אלה עשויות להעיד על שימוש ב- AI.
שאלות ותשובות על זיופי תמונות ב- AI
האם אפשר לסמוך ב- 100% על כלי לזיהוי תמונות מזויפות ?
לא. כלים לזיהוי תמונות שנוצרו באמצעות AI מספקים הערכה בלבד, ולא תמיד מצליחים לזהות תמונות מזויפות. לפעמים הם עלולים לסמן תמונה אמיתית שעברה עריכה או שימוש בפילטרים כתמונה שנוצרה ב- AI, ומנגד לפספס תמונה מזויפת שעברה חיתוך, דחיסה או צילום מסך. לכן, מומלץ להשתמש בכמה כלי זיהוי במקביל, לבדוק מהו המקור של התמונה ולא להסתמך על התוצאה של כלי אחד בלבד.
מה נוכלים יכולים לעשות עם תמונות מזויפות ?
תמונות שנוצרו באמצעות AI משמשות כיום למגוון הונאות ברשת, החל מפרופילים מזויפים באפליקציות היכרויות ועד למודעות שקריות למכירת מוצרים והשכרת דירות. נוכלים משתמשים בהן גם כדי להתחזות לבני משפחה במצוקה, לזייף מסמכים ואישורי תשלום, ליצור תמונות אינטימיות המשמשות לסחיטה ולהפיץ פייק ניוז בזמן מלחמות ואירועי חירום.
האם מישהו יכול ליצור תמונה מזויפת שלי מתמונות שפרסמתי ברשת ?
כן. כיום ניתן ליצור תמונות מזויפות של אדם באמצעות AI אפילו מתמונה אחת ברורה של הפנים. כדי להקטין את הסיכון, מומלץ להגביל את החשיפה של התמונות שלכם ברשתות החברתיות ולהימנע מפרסום תמונות ברזולוציה גבוהה של הפנים. אם גיליתם שמישהו משתמש בתמונה מזויפת שלכם, שמרו תיעוד, דווחו לפלטפורמה ואל תשלמו לסוחטים. במקרה הצורך, פנו למשטרה, ואם מדובר בקטינים, ניתן לפנות גם למוקד 105.
אם בפרטי הקובץ מופיע דגם של מצלמה, זה אומר שהתמונה אמיתית ?
לא בהכרח. הפרטים שמופיעים בתוך התמונה, כמו מועד הצילום וסוג המצלמה, ניתנים לשינוי או זיוף. בנוסף, רשתות חברתיות ואפליקציות למסרים מיידיים רבות מסירות את הפרטים האלה בעת העלאת תמונות. עם זאת, קיימת דרך אמינה יותר לבדוק את מקור התמונה באמצעות תקן Content Credentials (C2PA), שמאפשר לצרף תיעוד שאומת דיגיטלית ומפרט כיצד התמונה נוצרה ואילו שינויים נערכו בה. התקן כבר נתמך בחלק מהמצלמות, במכשירי פיקסל של גוגל ובכלי עריכה ויצירה שונים.
האם צילום מסך או שליחת תמונה בוואטסאפ מוחקים ממנה סימנים של AI ?
תלוי בסוג הסימן. פרטים שמצורפים לתמונה, כמו מטא-דאטה, תוויות וסימני מים גלויים, עלולים להימחק בעת צילום מסך או דחיסת התמונה. לעומת זאת, סימני מים בלתי נראים, כמו SynthID של גוגל, מוטמעים בתוך התמונה עצמה ויכולים להישאר גם לאחר חיתוך, דחיסה או שינוי צבע. עם זאת, גם הם אינם חסינים לחלוטין, אך עמידים יותר בפני שינויים בתמונה.
קיבלתי תמונה חשודה בקבוצת וואטסאפ. מה כדאי לעשות ?
לפני שאתם משתפים תמונה, כדאי לעצור לרגע, במיוחד אם היא מעוררת בכם רגשות חזקים כמו פחד, כעס או התלהבות. מומלץ לבצע חיפוש לפי תמונה בגוגל כדי לבדוק היכן ומתי היא פורסמה לראשונה, שכן לעיתים מדובר בתמונה ישנה שעברה עריכה. בנוסף, כדאי לבדוק אם אתרי חדשות אמינים פרסמו את התמונה. אם מצורפת אליה בקשה להעברת כסף או מסירת פרטים אישיים, צרו קשר ישירות עם האדם ששלח לכם אותה באמצעות מספר הטלפון שלו, ולא דרך המספר שמופיע בהודעה שקיבלתם.
אילו כלים יכולים לעזור בזיהוי תמונות שנוצרו ב- AI ?
יש כמה כלים חינמיים שיכולים לעזור לכם לזהות תמונות שנוצרו באמצעות AI. הראשון הוא 'הקף לחיפוש' (Circle to Search) של גוגל שמאפשר להקיף תמונה חשודה ולבדוק אם היא נוצרה באמצעות AI, בין היתר באמצעות זיהוי סימן המים SynthID. גם ג'מיני מאפשר להעלות תמונה ולבדוק אם היא נוצרה או נערכה באמצעות כלי ה- AI של גוגל, אם כי הזיהוי יעיל בעיקר בתמונות שנוצרו בכלים שלה. כלי נוסף הוא TinEye, שמאפשר לבצע חיפוש תמונה הפוך ולאתר גרסאות קודמות שלה כדי לנסות למצוא את המקור. חשוב לזכור שאף אחד מהכלים האלה אינו מספק זיהוי ודאי. לכן, מומלץ לשלב ביניהם ולא להסתמך על תוצאה אחת בלבד.
