אנת'רופיק (Anthropic) מדווחת כי זיהתה וחסמה בחודשים האחרונים ניסיונות להשתמש במודלי קלוד השונים לפיתוח נשק ביולוגי, כלי נשק קונבנציונליים ומתקפות סייבר.
בדוח חדש שפרסמה החברה, היא מתארת שורה של מקרים שבהם נעשה שימוש לרעה במודלים שלה בין דצמבר 2025 לאוגוסט 2026. בין היתר, החברה זיהתה שימוש בקלוד במסגרת קמפיין ריגול סייבר שיוחס לגורמים הקשורים לרוסיה, וכן פעילות של גוף תעמולה איראני.
המקרים שתועדו לא הסתכמו במתקפות סייבר. צוות מודיעין האיומים של החברה דיווח כי זיהה גם שימוש במודלים לצורכי הונאה, מעקב אחר מתנגדי משטר, אפליקציות היכרויות מזויפות והונאות באמצעות רשתות ווייפיי (WiFi) בבתי מלון.
בחברה מודים כי אחד התחומים שהדאיגו אותם היה שימוש בקלוד לצרכים הקשורים לפיתוח נשק ביולוגי. בדוח מתוארים חמישה מקרים שבהם גורמים שונים השתמשו במודלים באופן שעלול לתמוך בפיתוח כזה. באנת'רופיק מדגישים כי אותם מודלים יכולים לשמש למחקרים רפואיים ולפיתוח תרופות וחיסונים, אך ביכולות הללו אפשר גם להשתמש לפיתוח נשק ביולוגי.
השתמשו בקלוד גם לפיתוח טילים, רחפנים ומתקפות סייבר
לפי הדוח, החברה זיהתה שישה מקרים שבהם קלוד שימש לפיתוח תוכנה הקשורה לכלי נשק קונבנציונליים, בהם כלי ירייה, טילים, רחפנים חמושים ופצצות, לצד מערכות בקרה והכוונה.
אנת'רופיק דיווחה גם על שימוש גובר בקלוד מצד האקרים וגורמים עוינים הנתמכים על ידי מדינות. אחד המקרים שצוינו קשור לקבוצה המזוהה עם רוסיה, שלכאורה השתמשה בבינה מלאכותית כדי ליצור תוכנה שמזהה מתי נוזקה שלה נחסמת על ידי מערכות אבטחה ומשנה את הקוד כדי לעקוף אותן.
החברה מסרה כי היא משתמשת במידע שאספה כדי לשפר את מערכות ההגנה שלה ולמנוע שימושים דומים בעתיד, שיתפה מידע עם רשויות ושותפים רלוונטיים בתעשייה וחסמה את החשבונות של המעורבים. צעדים אלה הם חלק ממדיניות רחבה יותר של אנת'רופיק, הכוללת ניטור פעילות, הפעלת מסננים אוטומטיים והגבלות על שימושים בעלי סיכון גבוה.
הדוח ממחיש את אחד האתגרים המרכזיים של חברות ה- AI. ככל שהמודלים מקבלים יכולות מתקדמות יותר ומסוגלים לבצע משימות מורכבות באופן עצמאי, כך גדל גם הסיכון שהם ישמשו גורמים בעלי כוונות זדוניות.
