אנת'רופיק (Anthropic) עומדת להוסיף סימני מים בלתי נראים לטקסטים שנוצרים באמצעות קלוד (Claude), במטרה לאפשר למשתמשים לזהות תוכן שנוצר על ידי בינה מלאכותית. אלא שהדרך שבה החברה עושה זאת מעוררת שאלה מעניינת: האם סימן המים עלול להשפיע גם על הטקסטים שניצור עם קלוד ?
לפי אנת'רופיק, המערכת של סימן המים מבוססת על טכנולוגיית SynthID-Text של Google DeepMind. במקום להוסיף לטקסט תווים נסתרים או סימנים שניתן לראות, המנגנון ייכנס לפעולה בזמן יצירת הטקסט וישפיע על מילים שהמודל יבחר.
במצב שבו יהיו מספר מילים שמתאימות למשפט, המערכת תוכל לגרום לקלוד לבחור מילה ספציפית לפי העדפותיה. כך ייווצר לכל הטקסט דפוס ייחודי, שאינו נראה לעין האנושית, אך יהיה ניתן לזיהוי באמצעות כלי ייעודי. לפי אנת'רופיק, המטרה היא לאפשר לזהות טקסטים שנכתבו על ידי קלוד, ולא לזהות את המשתמש שכתב אותו.
אנת'רופיק מבטיחה שאיכות הכתיבה לא תפגע
החברה מדגישה כי השינויים בבחירת המילים אמורים להיות זעירים, וכי בבדיקות שערכה נמצא כי הם לא פגעו באיכות, ביצירתיות או בדיוק של התשובות. גוגל, שפיתחה את SynthID, מסבירה כי השיטה פועלת באמצעות שינוי עדין של ההסתברויות שמודל השפה מעניק למילים שונות במהלך יצירת הטקסט.
עם זאת, לא כולם משוכנעים שאיכות הכתיבה לא תפגע. מבקרים טוענים שגם אם מדובר בשינויים קטנים, עצם העובדה שמערכת חיצונית משפיעה על בחירת המילים של המודל מעלה שאלות לגבי איכות הכתיבה והשליטה של המשתמש בתוצאה הסופית.
המהלך מגיע על רקע דרישות השקיפות של חוק הבינה המלאכותית של האיחוד האירופי, שמחייב סימון או זיהוי של תוכן שנוצר באמצעות AI. לכן, ייתכן שקלוד הוא רק הסנונית הראשונה וששירותי AI נוספים יאמצו בעתיד מנגנוני סימון דומים.
גוגל הרחיבה לאחרונה את היכולות של SynthID וכעת המערכת מסמנת גם טקסטים שנוצרים באמצעות ג'מיני (Gemini), כך שמדובר במגמה רחבה יותר בתעשיית הבינה המלאכותית ולא רק במהלך נקודתי של אנת'רופיק.
