האנציקלופדיה המקוונת הגדולה בעולם, ויקיפדיה (Wikipedia) בגרסה האנגלית, החליטה להילחם בתכנים שנוצרים במודלי שפה גדולים. בהחלטה שהתקבלה בהצבעה שבה השתתפו מספר רב של עורכים, נאסר באופן גורף להשתמש בכלי בינה מלאכותית יוצרת מכל סוג שהוא, כמו ChatGPT של OpenAI, ג'מיני של גוגל, קלוד של אנת'רופיק, גרוק של xAI ועוד, לכתיבת ערכים חדשים או עריכת ערכים קיימים.
המאבק בזיופים ובחוסר הדיוק
לפי ויקיפדיה, הסיבה העיקרית למהלך הדרמטי הזה נובעת מהחשש הכבד לפגיעה באמינות המידע. לטענת העורכים שהשתתפו בהצבעה, מודלי שפה נוטים לעיתים קרובות להמציא עובדות ומקורות, או לשנות את המשמעות של הטקסט המקורי בצורה שאינה נתמכת על ידי המקורות המצוטטים.
במדיניות החדשה של ויקיפדיה צוין כי טקסט שנוצר על ידי מודלי שפה מפר לעיתים קרובות את ערכי הליבה של האנציקלופדיה, הכוללים אימות עובדות קפדני ואיסור על מחקר מקורי.
בוויקיפדיה מדגישים כי המודלים הללו עלולים לייצר תוכן שאולי נראה אמין, סמכותי ומשכנע, אך בפועל מדובר בתוכן המבוסס על מידע שגוי שמטעה את הקוראים, מה שיוצר עומס כבד על העורכים המתנדבים שנדרשים למחוק אותו ולערוך מחדש.
יש שני מקרים חריגים
למרות האיסור הנרחב, ויקיפדיה אינה חוסמת את השימוש בבינה המלאכותית לחלוטין ומגדירה שני מקרים ספציפיים שבהם מותר להשתמש בהם:
- עריכה ושיפור ניסוח: עורכים מורשים להיעזר בבינה מלאכותית כדי לקבל הצעות לשיפור והגהה של טקסט שהם ניסחו בעצמם, בדומה לכלים מתקדמים לבדיקת דקדוק. עם זאת, נדרשת בדיקה אנושית קפדנית כדי לוודא שהבינה המלאכותית לא הוסיפה מידע חדש על דעת עצמה.
- סיוע בתרגום: מותר להשתמש בבינה מלאכותית כדי ליצור טיוטת תרגום ראשונית של ערכים מוויקיפדיות בשפות אחרות לגרסה האנגלית, בתנאי שהעורך שולט בשתי השפות ומסוגל לתקן שגיאות.
חשוב להדגיש כי הכללים החדשים הללו תקפים אך ורק עבור ויקיפדיה בשפה האנגלית. קהילות העורכים של ויקיפדיה בשפות אחרות, כולל הגרסה בעברית הזמינה בישראל, רשאיות לגבש באופן עצמאי מדיניות והנחיות משלהן בנוגע לשימוש בבינה מלאכותית בערכים שהן מנהלות.
