פחות פיקוח אנושי: קלוד קוד עובר למצב אוטומטי כברירת מחדל

אנת'רופיק (Anthropic) ממשיכה לדחוף את קלוד קוד לכיוון אוטונומי יותר, והחל מה- 14 באוגוסט המשתמשים לא יצטרכו כמעט לפקח על תהליך התכנות. החברה הודיעה כי המצב האוטומטי יהפוך לברירת המחדל עבור מנויי Pro, Max ו- Team, כך שקלוד קוד יוכל לבצע משימות תכנות עם פחות התערבות ידנית מצד המשתמש.

אנת'רופיק הציגה לראשונה את המצב האוטומטי כניסיוני בחודש מרץ, במטרה למצוא את האיזון בין מהירות העבודה לבין השליטה של המשתמש. במצב זה, קלוד קוד לא יעצור בכל שלב כדי לבקש אישור לפעולה, אלא ימשיך לבצע את המשימה באופן עצמאי. עם זאת, כאשר המערכת תזהה פעולה שעלולה להיות בלתי הפיכה, הרסנית או כזו שחורגת מסביבת העבודה, היא תדרוש את אישור המשתמש לפני שתמשיך.

 

החברה טוענת כי גם מבחינה בטיחותית, המצב האוטומטי הציג תוצאות טובות יותר במהלך הבדיקות. במחקר שכלל 1,053 משתמשים משלמים, קלוד קוד זיהה במצב האוטומטי 89% מהפעולות המזיקות, לעומת 13.6% בלבד שזוהו בבדיקה אנושית. בחברה מסבירים כי אחת הסיבות לכך עשויה להיות הרגל של משתמשים לאשר כמעט באופן אוטומטי את בקשות ההרשאה של קלוד קוד. לפי נתונים שאנת'רופיק פרסמה, 97% מהבקשות מאושרות על ידם.

במקביל, אנת'רופיק ממשיכה להוסיף שכבות הגנה לקלוד קוד, כדי לצמצם את הסיכון לפעולות בעייתיות מצידו. בין התכונות שהחברה מטמיעה ניתן למצוא מנגנון לזיהוי וסינון של ניסיונות 'הזרקת פרומפטים', לצד כללים הניתנים להתאמה אישית שמאפשרים לחסום מראש פעולות מסוימות, כמו ניסיון להוציא מידע או נתונים מסביבת העבודה.

אולי יעניין אותך גם

 
דילוג לתוכן