אנתרופי מאפשר לקלוד מיתוס לפרוש את כנפי הזכוכית שלו
Anthropic, שהפכה טרייה למעבדת הבינה המלאכותית המוערכת ביותר במשחק והכריזה על תוכניות להנפקה ראשונית לציבור, הרחיבה את הגישה ל-Claude Mythos Preview, המודל שלה שישמיד כביכול את עצם הרעיון של אבטחת סייבר כפי שאנו מכירים אותו אם ישוחרר בטבע. לפי החברההיא מרחיבה את הגישה למודל באמצעות יוזמת Project Glasswing שלה, מה שהופך אותו לזמין ל-150 ארגונים חדשים ב-15 מדינות.
פר אנתרופיהארגונים השותפים החדשים שלה כוללים את אלה בתעשיית החשמל, המים, שירותי הבריאות, התקשורת והחומרה. רבים הם ספקים ש"מתחזקים בסיסי קוד שעליהם מסתמכים המון ארגונים אחרים ברחבי העולם, כולל ממשלות". הם גם מטרות פוטנציאליות להתקפות סייבר "קטסטרופליות". לפי המתמטיקה של אנתרופיק, מתקפת סייבר גדולה נגד כל אחד מהם עלולה להשפיע על יותר מ-100 מיליון אנשים ולהשפיע על הביטחון הלאומי והעולמי.
הגישה שלהם ל- Claude Mythos Preview תהיה זהה לשותפים בעבר: הם יזכו להשתמש במודל בקיבולת מוגבלת כדי לבדוק ולזהות פרצות אבטחה, כך שניתן יהיה לתקן אותן ולטפל בהן לפני ניצול על ידי האקרים או מודלים אחרים למטרות זדוניות.
מיתוס נשאר קצת מסתורין עבור אלה שאינם חלק מהקבוצה הפנימית (מתאים את השם שלו!), אבל קיבלנו כמה הצצות על הדגם ועל אופן השימוש בו. Cloudflare, למשל, מְשׁוּתָף ש-Mythos Preview היה מיומן במיוחד בבניית שרשרת ניצול, שבעצם מזהה כיצד ניתן להשתמש במספר באגים כדי ליצור סדרה של התקפות שעושות יותר נזק מאשר פגם בודד מנוצל.
אבל Anthropic חשפה גם ש-Mythos לא בהכרח מוכן לפריים-טיים, מה שעשוי להיות גם חלק מהסיבה שהיא בעצם שומרת אותו לבסיס כל כך קטן ומבוקר של משתמשים. הוא מצא כי אמצעי ההגנה האורגניים של המודל (כלומר, לאילו בקשות הוא יגיד "לא") לא היו עקביים ויכולים להשתנות לאחר שינויים שלכאורה לא קשורים. הוא גם מצא שבעוד Mythos Preview טובה באיתור נקודות תורפה, היא לא מספיק מצוידת לתקן אותן. החברה גילתה כי מתן אפשרות לדגם לכתוב טלאים משלו יגרום בדרך כלל לשבירת חלק אחר של בסיס הקוד בתהליך.
Cloudflare גם ציין שדגמים אחרים מצאו הרבה מאותם באגים כמו Mythos – תצפית שנעשתה במקומות אחרים. חברת אבטחה בשם Aisle בדקה כמה דגמים קטנים בקוד פתוח ו הצליח למצוא את אותן נקודות תורפה שאנתרופיק הדגישה כשהכריזה על Mythos – נקודות תורפה שלא הבחינו בני אדם במשך עשרות שנים.
זה לא אומר ש-Mythos Preview אינה עליית מדרגה מדגמים אחרים, אבל היא כן גורמת ל-Project Glasswing וההשקה האיטית להרגיש יותר כמו גימיק שיווקי מאשר אמצעי זהירות אמיתי. כמה מומחי אבטחת סייבר הציע לניו יורק טיימס שהחזקת הדגם במנעול ומפתח לא באמת פותרת את הבעיה של פרצות אבטחה נרחבות – היא רק נותנת לקומץ שחקנים התחלה.
יש לו גם את האפקט הנוסף (והתועלת לאנתרופיק) שהוא מקשה מאוד על הערכת Mythos Preview אם אינך אחד מהארגונים הבודדים שיש להם גישה. זוהי גרסה מודרנית של "ביטחון דרך ערפול", שיטה כלומר לעג בהרחבה בשיטות אבטחת סייבר מודרניות. אבל נראה שהתוכנית של אנתרופיק לעת עתה היא לראות עד כמה גבוה היא יכולה לבנות את קירות הקופסה השחורה שלה.