פרצוף מחבק: השתמשנו בבינה מלאכותית כדי לתפוס את הפרת סוכן הבינה המלאכותית המאושרת הראשונה של פלטפורמת בינה מלאכותית גדולה
Hugging Face חשפה לאחרונה פרטים על מה שנראה כמקרה הראשון הידוע בציבור של פשעי סייבר בינה מלאכותית נגד פלטפורמת בינה מלאכותית גדולה.
הפלטפורמה הפופולרית לאירוח ושיתוף של מודלים ומערכים של בינה מלאכותית אמרה בפוסט בבלוג בשבוע שעבר שכן זוהה והגיב לפריצה לתוך חלק מתשתית הייצור שלה. אבל המתקפה לא דומה לשום דבר שהחברה נתקלה בו קודם לכן.
חיבוק פייס אמר כי הקמפיין "מונע, מקצה לקצה, על ידי מערכת סוכני בינה מלאכותית אוטונומית". במהלך של כרטיס הפוך, החברה השתמשה בבינה מלאכותית משלה כדי לזהות ולנתח את המתקפה.
ה-Next Web תיאר את התקרית בתור מה נראה כי מדובר בהפרה הראשונה המאושרת של סוכן AI של פלטפורמת AI גדולה.
על פי חשיפת החברה, המתקפה החלה במערך נתונים זדוני שניצל שתי נקודות תורפה בצינור עיבוד הנתונים שלה. נקודות תורפה אלו אפשרו לתוקף להריץ קוד על שרת המכונה עובד עיבוד.
לאחר מכן, התוקף הצליח לקבל גישה ברמת הצומת ולאסוף אישורי ענן ואשכולות כדי לנוע סביב מספר אשכולות פנימיים במהלך סוף שבוע.
"הקמפיין נוהל על ידי מסגרת של סוכנים אוטונומיים (נראה כי בנויה על רתמת אבטחה-מחקר סוכנת – בשימוש LLM עדיין לא ידוע) המבצעת אלפים רבים של פעולות אינדיבידואליות על פני נחיל של ארגזי חול קצרי מועד, עם הגירה עצמית של פיקוד ושליטה מבוימים בשירותים הציבוריים", כתב חיבוק ב- פוסט בבלוג.
חיבוק פנים אמר שהתקרית באה בעקבות תוקף סוכן תרחישים שהתעשייה מצלצלת לגביהם אזעקות. ובכל זאת, זה קצת מפתיע שיותר פלטפורמות בינה מלאכותית לא דיווחו בפומבי על התקפות כאלה. הפרה זו מעניקה את ההצצה הטובה ביותר למה בעצם מסוגלת מתקפה סוכן כאשר מכוונת לפלטפורמת AI.
התקרית מגיעה גם על רקע הדאגה הגוברת לגבי יכולות אבטחת הסייבר המתקדמות של דגמי הבינה המלאכותית העדכניים ביותר.
ממשלת ארה"ב הורתה לזמן קצר לאנתרופיק לחסום אזרחים זרים בתוך המדינה ומחוצה לה מגישה למודלים המתקדמים ביותר שלה, תוך ציון דאגות לביטחון לאומי. Anthropic הגיבה על ידי השעיית גישה ברחבי העולם עד להסרת ההגבלות ב-30 ביוני. Fable 5 זמין כעת עם אמצעי הגנה נוספים, בעוד שהגישה ל-Mythos 5 הפחות מוגבלת נותרה מוגבלת.
למרבה האירוניה, סוגי אמצעי ההגנה שנועדו למנוע התקפות סייבר בסיוע בינה מלאכותית הקשו על חיבוק פייס לחקור את זה.
Hugging Face אמר שהוא הצליח לזהות את המתקפה בעזרת AI. אך כאשר היא ניסתה להשתמש במודלים חזיתיים אליהם ניתן לגשת דרך ממשקי API מסחריים כדי לנתח את המתקפה, הבקשות שלה נחסמו.
העבודה הפורנזית דרשה להאכיל את הדוגמניות בכמויות גדולות של פקודות תקיפה אמיתיות. לפי Hugging Face, אמצעי ההגנה של הדוגמניות המסחריות לא יכלו להבחין בין תוקף לצוות אבטחה שחוקר הפרה ממשית.
חיבוק פייס כתב כי "התוקף לא היה מחויב למדיניות שימוש, בעוד שהעבודה המשפטית שלנו נחסמה על ידי מעקות הבטיחות של הדגמים המתארחים שניסינו לראשונה".
החברה פנתה במקום זאת ל-GLM 5.2, דגם סיני בעל משקל פתוח, הפועל על תשתית משלה.
Hugging Face השתמש בבינה מלאכותית כדי לבחון יותר מ-17,000 אירועים מתועדים, לשחזר את ציר הזמן של המתקפה, לזהות אילו אישורים נחשפו ולהבחין בנזק אמיתי מפעילות הטעיה.
החברה אמרה כי AI אפשרה לצוות שלה להשלים תוך שעה את מה שבדרך כלל היה לוקח ימים.
חיבוק פייס אמר שהוא עדיין קובע אם נתוני לקוח או שותף כלשהם הושפעו. עד כה, היא לא מצאה ראיות לכך שהתוקף התעסק במודלים, מערכי נתונים או מרחבים הפתוחים לציבור.
בנוסף, החברה אמרה שהיא תיקנה את הפגיעויות ששימשו כדי להשיג גישה ראשונית, הסירה את הגישה של התוקף לאשכולות המושפעים, בנתה מחדש צמתים שנפגעו, וביטל וסובב אישורים ואסימונים חשופים. היא גם הביאה מומחי אבטחת סייבר חיצוניים ודיווחה על התקרית לרשויות החוק.
Hugging Face מייעץ למשתמשים לבדוק את הפעילות האחרונה בחשבונות שלהם ולסובב את אסימוני הגישה שלהם.
חיבוק פנים לא הגיב מיד לבקשת תגובה.