הבינה המלאכותית (AI) הפכה מהבטחה עתידנית לכלי עבודה יומיומי שנמצא כרגע בשימוש אצל כל אדם בעולם, בין אם הוא מודע לכך או לא. אך למרות האימוץ הנרחב, סוגיות הפרטיות ואבטחת המידע נותרו ברובן בערפל, ללא שקיפות מלאה מצד החברות האחראיות על הכלים הללו.
אנחנו מזינים לתוך הצ'אט את המחשבות שלנו, מסמכים, מידע ופרטים רגישים של העסק או החברה שבה אנו עובדים, ולעיתים גם את הסודות הכי מקצועיים וכמוסים שלנו, לכן, יש צורך באיזשהו מנגנון אבטחה שיגן על המידע שלנו.
לאחרונה, חברת OpenAI החליטה להרים את הכפפה והשיקה מצב חדש שנקרא "מצב נעילה" (Lockdown Mode) – פיצ'ר שנועד להפוך את ChatGPT למבצר דיגיטלי עבור אלו שבאמת צריכים את זה. אבל האם מדובר בבשורה של ממש, או שמא בסימון v של החברה על סעיף אבטחה נוסף שיש לה ברשימה ?
מה זה בכלל "מצב נעילה" ?
כדי להבין את המהלך של OpenAI, צריך להבין קודם מהו האיום הגדול ביותר על מודלי שפה כיום שנקרא "הזרקת פקודות" (Prompt Injection). מדובר בשיטה שבה האקרים או גורמים עוינים אחרים מצליחים "לעקוף" את ההגנות המובנות של הבינה המלאכותית דרך אתרים חיצוניים שהמודל סורק, ובכך לגרום לו להדליף מידע או לבצע פעולות זדוניות.
מצב הנעילה החדש הוא למעשה "מצב טיסה" משודרג של הבינה המלאכותית. כאשר הוא מופעל, המערכת מצמצמת את נקודות המגע שלה עם העולם החיצון למינימום ההכרחי וכך פוחת הסיכוי שמידע פנימי ידלוף החוצה.
איך זה עובד בפועל ?
במצב נעילה, הצ'אט שלכם הופך להיות הרבה יותר סגור ומסוגר. היכולת שלו לגלוש באינטרנט מוגבלת לתוכן מאובטח בלבד, ופיצ'רים מתקדמים כמו "מחקר עומק" (Deep Research) או סוכנים אוטונומיים (Agents) מנוטרלים לחלוטין. ככל שיש למודל פחות יכולת "לפעול" בעולם או "לקרוא" מידע חופשי, כך קטן מרחב התמרון של תוקפים פוטנציאליים.
אלה הן התכונות העיקריות של מצב נעילה:
- ניתוק יכולות חיצוניות: ביטול מצב "סוכן" וכלים אחרים המבצעים פעולות אוטונומיות ברשת.
- גלישה מוגבלת: חסימת גישה לאתרים והסתמכות על זיכרון מטמון (Cache) מאובטח בלבד.
- הגנת נתונים מחמירה: בקרת איכות קפדנית על קבצים ותמונות המועלים לצ'אט.
- אזהרות: המשתמשים מקבלים אזהרה ברורה לפני שהם מפעילים תכונות מסוימות שעלולות לחשוף אותם למתקפה.
פרטיות היא לא מוצר פרימיום, אלא זכות בסיסית
עכשיו, אחרי שהסברנו את הצד הטכני, הגיע הזמן לדבר על הפיל שבחדר. OpenAI השיקה כרגע את התכונה הזו רק עבור ארגונים גדולים ולקוחות מתחום החינוך, והבטיחה שהיא תגיע בהמשך למשתמשים נוספים. אבל כאן בדיוק נעוצה הבעיה: מדוע הפיצ'ר הכל כך חשוב הזה מוגדר כ- "בונוס" וזמין רק לארגונים גדולים ולא מוצע כפיצ'ר בסיסי לכל מי שמשתמש בצ'אטבוט ? כולל המשתמשים החינמיים.
בואו נשים את האמת על השולחן, מצב נעילה הוא פיצ'ר שהיה צריך להגיע לצ'אט כבר מזמן. מומחי אבטחה מתריעים על הפרצות הללו שהוא מטפל בהן מאז ש- ChatGPT הושק. לכן, חשוב שכל משתמש יוכל לבחור אם להפעיל אותו או לא.
המשתמשים החינמיים נותרו חשופים
ההחלטה להשאיר את המשתמשים החינמיים (ואפילו חלק מהמשתמשים בתשלום) מחוץ למעגל ההגנה הזה כרגע היא טעות אסטרטגית ומוסרית. המשתמש הממוצע, זה שאין לו מחלקת IT מאחוריו או קצין אבטחת מידע שינחה אותו, הוא בדיוק המשתמש שזקוק למצב הנעילה החדש.
בעוד שארגונים גדולים יודעים להגן על עצמם עם חומות אש ונהלים מחמירים, המשתמש הביתי הוא זה שעלול ללחוץ על לינק זדוני או להזין מידע רגיש בלי להבין את ההשלכות. העובדה ש- OpenAI בוחרת להעניק את הכלים הכי חזקים לאלה שיש להם הכי הרבה משאבים, ו- "מפקירה" את שאר המשתמשים ומציעה להם רק הגדרות בסיסיות, מעלה ריח לא נעים של אפליה דיגיטלית.
אבטחה מול נוחות
נכון, מצב נעילה פוגע בחוויית המשתמש. הוא הופך את הצ'אטבוט לקצת פחות "חכם" וקצת יותר מוגבל. אבל זו בדיוק הנקודה – המשתמש צריך לקבל את זכות הבחירה. אם אנחנו מוכנים לוותר על היכולת של המודל לחפש עבורנו מתכונים ברשת או לסכם לנו את חדשות הבוקר בתמורה לכך שהמידע והפרטים האישיים שלנו נשארים נעולים בכספת שלו, זו צריכה להיות החלטה שלנו ולא פיצ'ר שזמין רק למנויים משלמים.
ענקיות הבינה המלאכותית צריכות להפסיק להתייחס לאבטחת מידע כאל תכונת "פרימיום". בעולם שבו מתקפות סייבר הופכות למתוחכמות יותר בעזרת אותה בינה מלאכותית עצמה, לספק מודל חזק ללא הגנה מקסימלית זה כמו למכור מכונית מרוץ בלי חגורות בטיחות, ולהצהיר שחגורות מיועדות רק לנהגים מקצועיים.
