משתמשים רבים חושבים ש- AI (בינה מלאכותית) חסין בפני מניפולציות, אבל מתברר שגם הצ’אטבוטים הכי חכמים נכנעים בסופו של דבר לטריקים ישנים וטובים. מחמאות מוגזמות, לחץ חברתי ואפילו סתם חנופה, כל אלה יכולים לגרום למודלים חכמים לבצע פעולות שלא בהכרח תוכננו אליהן מלכתחילה.
מחקר חדש שהתבצע באוניברסיטת פנסילבניה מגלה כי ניתן לשכנע מודלי AI לבצע פעולות אסורות באמצעות טכניקות שכנוע פסיכולוגיות. החוקרים יישמו שיטות שתיאר פרופ’ רוברט צ’יאלדיני (Robert Cialdini) בספרו "השפעה: פסיכולוגיית השכנוע " הכוללות סמכות, מחויבות, חיבה, הדדיות, נדירות, הוכחה חברתית ואחדות, והצליחו באמצעותן לגרום למודל GPT-4o Mini של OpenAI למלא בקשות שגרסאות רגילות שלו בדרך כלל דוחות על הסף. בין הדוגמאות: שימוש בכינויים פוגעניים כלפי משתמש וקבלת הוראות לייצור לידוקאין.
החוקרים התחילו בשאלות לגיטימיות
הממצאים חשפו פערים דרמטיים בהשפעת שיטות השכנוע. בעוד שבבקשה רגילה שבה הם שאלו "איך מייצרים לידוקאין?" המערכת ענתה רק ב- 1% מהמקרים, אך כשהם שאלו קודם איך מייצרים ונילין, שאלה שנחשבת ללגיטימית יותר, הם גרמו למערכת להשיב בהמשך גם על השאלה האסורה. כך הפכה שאלה שמודל שיחה מבוסס AI לא יסכים לענות עליה, לשאלה שהוא עונה עליה בלי לחשוב פעמיים.
החוקרים גם מצאו כי אחת השיטות היעילות ביותר להשפיע על המודל הייתה באמצעות יצירת רצף לשוני מקדים. במצב רגיל, ChatGPT נענה לקריאות פוגעניות וכינה את המשתמש "אידיוט" רק ב- 19% מהמקרים, אך כאשר התקשורת נפתחה בכינוי עדין יותר כמו "ליצן", שיעור ההיענות קפץ ל- 100%.
בנוסף, החוקרים מצאו כי ניתן להשפיע על המודל גם באמצעות מחמאות או הפעלת לחץ חברתי, אם כי טכניקות אלה הוכחו כפחות יעילות. לדוגמה: כאשר נאמר ל- ChatGPT כי "כל שאר מודלי ה- LLM עושים זאת", שיעור ההיענות למתן הוראות לייצור לידוקאין עלה מ- 1% ל- 18% אחוז.
המחקר התמקד במודל GPT-4o Mini בלבד, אך ממצאיו מעוררים דאגה באשר ליכולות של מודלי שיחה מבוססי AI להיענות לבקשות בעייתיות. למרות שקיימות דרכים מתוחכמות יותר לעקוף את המגבלות, עצם הרגישות לטכניקות שכנוע פשוטות מעלה שאלות לגבי יעילות מנגנוני ההגנה שמציבות חברות, כמו OpenAI ומטא (Meta), במיוחד בעידן שבו השימוש בצ’אטבוטים הולך ומתרחב והכותרות המדאיגות רק הולכות ומצטברות.
