סוכן AI פרץ את Hugging Face לפני שמגן AI תפס את זה: מה המשתמשים צריכים לעשות הלאה
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- Hugging Face חושף מתקפת סייבר שפגעה בתשתית ובאישורים פנימיים.
- סוכן בינה מלאכותית אוטונומית הואשם בהפרה.
- בינה מלאכותית, בתורה, זיהתה את החדירה – אך האם מספיק הגנה התומכת בבינה מלאכותית כדי לעצור התקפות עתידיות?
Hugging Face חשפה אירוע אבטחה, ככל הנראה, מעשה ידיו של AI סוכן לא ידוע, שחשף את פלטפורמת הייצור והאישורים שלו. לא ידוע אם נתוני השותפים או הלקוחות הושפעו.
מה זה חיבוק פנים?
Hugging Face הוא מאגר קוד פתוח ופלטפורמת קהילה המתארת את עצמה כ"שם קהילת למידת המכונה משתפת פעולה במודלים, מערכי נתונים ויישומים".
כמו כן: 5 טקטיקות אבטחה שהעסק שלך לא יכול לטעות בעידן הבינה המלאכותית – ולמה הן קריטיות
הפלטפורמה, משאב מגוון למי שמתעניין ב-AI ומודלים של שפות גדולות (LLMs), מציעה מערכי נתונים, יישומים, מודלים, יצירות AI מגמתיות, כמו גם הזדמנויות לשיתוף פעולה.
מערך הנתונים הפך לאסון
ב א ייעוץ אבטחה פורסם ב-16 ביולי, Hugging Face אמר שהוא זיהה גישה לא מורשית לקבוצה מוגבלת של מערכי נתונים פנימיים ולמספר אישורים המשמשים את שירותי הפלטפורמה.
המתקפה החלה בצינור עיבוד הנתונים של Hugging Face. מערך נתונים שנפרס על ידי התוקף כלל את היכולת לנצל שני נתיבי ביצוע קוד – טוען מערך נתונים מרוחק של קוד והזרקת תבנית בתצורת מערך נתונים – כדי להפעיל קוד זדוני על עובד עיבוד.
זה אפשר לתוקף להסלים את ההרשאות שלו לגישה ברמת הצומת, לחדור לצינור הייצור, לנוע ברחבי הרשת ולגנוב אישורי ענן ואשכולות.
כמו כן: מדוע התקפת תוכנת הכופר המלאה הזו גורמת לחוקרים סיוטים
אפשר היה לדמיין שזו עבודתו של פושע סייבר מסורתי. עם זאת, Hugging Face אומר שזה היה למעשה בינה מלאכותית סוכנית לא ידועה שהוציאה לפועל "אלפים רבים של פעולות אינדיבידואליות על פני נחיל של ארגזי חול קצרי מועד, עם הגירה עצמית של פיקוד ושליטה בשירותים ציבוריים".
יותר מ-17,000 אירועים הקשורים למתקפה האוטומטית הזו נרשמו.
"זה תואם את תרחיש 'התוקף הסוכן' שהתעשייה חזתה", הוסיף Hugging Face.
הארגון לא מצא שום עדות להתעסקות במודלים ציבוריים ופונים למשתמשים, Spaces או שרשרת אספקת התוכנה שלו – לפחות בשלב זה.
ההגנה והתגובה של AI של HuggingFace
פרצות נתונים, דליפות מידע ואירועי אבטחה הם, למרבה הצער, נפוצים מאוד כיום – אבל השילוב של AI על AI הוא זה שגורם לתקרית Hugging Face לבלוט.
בעוד ש-AI סוכן הואשם בשיגור המתקפה, זה היה גם בינה מלאכותית ש"זיהתה במידה רבה" את התקרית, לפי Hugging Face.
כלי LLM של Hugging Face עצמו סימנו את אירוע האבטחה וגם ניתחו את יומן ההתקפה, מה שהוביל לשחזור ציר זמן, אינדיקטורים של פשרה ומפה של אישורים שנחשפו ונגנבו, משימה שנמשכה שעות ספורות כאשר "[it] בדרך כלל ייקח ימים", לדברי הצוות.
כמו כן: 4 פגיעויות AI קריטיות אלו מנוצלות מהר יותר ממה שמגנים יכולים להגיב
"כלים התקפיים אוטונומיים מונעי בינה מלאכותית כבר אינם תיאורטיים", ציין הארגון. "זה מוזיל את העלות של הפעלת קמפיין רחב, סבלני, רב-שלבי, והוא פועל במהירות מכונה. הגנה על פלטפורמה מקוונת פירושה כעת להתייחס למשטח הנתונים ולדגם כמשטח התקפה ממדרגה ראשונה, ושימוש בבינה מלאכותית בהגנה כדי לעמוד בקצב".
סביר להניח שנראה את ההתפתחות הן של התקפות מבוססות AI והן של הגנות בחודשים ובשנים הקרובים. בינתיים, Hugging Face תיקן את פגיעות השורש שאפשרה גישה ראשונית; מחק את כל עקבותיו של התוקף באשכולות מושפעים, בנה מחדש צמתים שנפגעו, ביטלו וסובב סודות, ופרס מעקות בטיחות נוספים ובקרות כניסה מחמירות יותר על פני אשכולות.
מה על משתמשי Hugging Face לעשות הלאה
Hugging Face בוחנת אם נתוני שותף או לקוחות כלשהם הושפעו מההפרה ותיצור קשר עם הצדדים המושפעים.
עד ש-Hugging Face תלמד בדיוק אילו מערכי נתונים, שותפים ומשתמשים מושפעים – אם בכלל – היא ממליצה על אמצעי זהירות כדי לשמור על בטיחות חשבונות המשתמש והמידע.
כמו כן: סוכני בינה מלאכותית הם מהירים, רופפים ויוצאים מכלל שליטה, כך עולה ממחקר של MIT
על המשתמשים לסובב את אסימוני הגישה שלהם ולשמור בקפידה על החשבונות שלהם עבור כל סימן לפעילות חריגה, לא ידועה או חשודה. אם משתמשי Hugging Face סבורים שהם הושפעו מהפרה זו, עליהם לפנות ישירות לארגון בכתובת security@huggingface.co.