סוכנויות אינטל מובילות טוענות שאסונות סייבר מונעי בינה מלאכותית קרובה: 'ציר הזמן הוא לא שנים, זה חודשים'
בהצהרה משותפת נדירה, ברית המודיעין Five Eyes – ארצות הברית, אוסטרליה, בריטניה, קנדה וניו זילנד – הזהירה ביום שני כי איומי אבטחת הסייבר שמציבים מודלים מתקדמים של AI מתקרבים לנקודה קריטית.
"כמנהיגי סוכנויות אבטחת הסייבר Five Eyes, אנו מאוחדים בקריאה שלנו לפעולה: הנוף המתפתח של בינה מלאכותית (AI) משנה במהירות את סיכוני הסייבר, ועלינו לפעול במהירות כדי להישאר קדימה", אמרה הברית בהצהרה משותפת שנחתמה על ידי ראשי המודיעין של כל חמש המדינות שמובילות את הסוכנות הלאומית לביטחון של דייוויד, כולל סוכנות הביטחון הלאומית של ארצות הברית. מנהלת, וניק אנדרסן, שהוא המנהל בפועל של הסוכנות לאבטחת סייבר ותשתיות (CISA). "ציר הזמן הוא לא שנים, זה חודשים."
במכתב אומרים המנהיגים שהפיתוחים בתחום הבינה המלאכותית האיצו את "מהירות, קנה מידה ותחכום של איומי סייבר" על ידי הורדת חסמים עבור שחקנים רעים וצמצום החלון בין גילוי פגיעות תוכנה לניצול שלה.
"לא ניתן עוד להתייחס לסיכון הסייבר כאל סוגיה טכנית גרידא. זהו סיכון עסקי ליבה ואחריות מנהיגותית", מִכְתָב קורא. "יתרחשו הפרות. המוכנות עוזרת לך להכיל אותן במהירות ולמנוע הסלמה למשברים תפעוליים ופיננסיים גדולים".
כדי לסייע בטיפול בסיכונים, ה-Five Eyes קוראים למנהיגים להגביל גישה מיותרת למערכת וקישוריות חיצונית, להימנע מעיכובים בתיקון נקודות תורפה על ידי תעדוף עדכוני אבטחה, לבדוק תוכניות תגובה להפרות אפשריות, לחזק את אימות הזהות ולהגביל את גישת המשתמשים למערכות קריטיות. הקבוצה גם קראה למנהיגי הארגון לשלב בינה מלאכותית בפעולות האבטחה שלהם.
"ארגונים המשלבים כלי בינה מלאכותית בפעולות האבטחה שלהם יכולים לזהות נקודות תורפה מוקדם יותר, לשפר את איכות התוכנה, לנטר התנהגות חריגה ולהגיב מהר יותר לתקריות – מה שמפחית הן את העלות והן את ההשפעה של תקריות", כתבו בקבוצה.
ההצהרה מגיעה בתקופה מתוחה עבור אבטחת סייבר. מוקדם יותר השנה הכריזה אנתרופיק על מודל בינה מלאכותית חדש בשם Mythos, שלדבריה היה כל כך מפחיד בפיצוח פרצות תוכנה עד שניתן להעניק גישה רק לארגונים וממשלות נבחרות. מיד לאחר הפריסה המוגבלת של Anthropic של הדגם החדש והמפחיד שלה, לכאורה מנפץ פרטיות, OpenAI יצאה עם דגם משלה עם הנחות דומות.
על פי דיווחים של הארגונים המעטים שקיבלו גישה, מודל Mythos מסוגל לעשות זאת לעקוף את זה של אפל מערכת הפעלה שידועה לשמצה קשה לפיצוח ומשתלטת לחלוטין על מערכת ארגונית שישה מתוך 10 ניסיונות.
לאחר שהכריזה שהיא החלה בתהליך ההנפקה המיוחל שלה, Anthropic הרחיבה תחילה את הגישה למודל Mythos לפני שפרסמה לציבור גרסה בטוחה יותר לכאורה בשם Claude Fable 5. המודל הזה לא עלה יותר מדי זמן לפני שממשל טראמפ התערב ואילץ את Anthropic להשעות את הגישה של אזרחים זרים גם ל-Fable cit ו-Mythos לביטחון לאומי. האיסור כלל את כל האזרחים הזרים המתגוררים בארה"ב או מחוצה לה, כולל עובדי החברה עצמה. כדי להבטיח הַתאָמָהAnthropic גישה מושבתת לשני הדגמים לכל המשתמשים.
ההשפעה הצפויה של דגמי הבינה המלאכותית של הדור הבא הללו הופכת במהירות לנושא דיון מרכזי בפוליטיקה העולמית. בשבוע שעבר, ראשי חברות בינה מלאכותית אוהבים את זה של אנתרופיק דריו אמודי, סם אלטמן מ-OpenAI, ודמיס חסאביס מ-Google DeepMind נכחו ב פסגת G7 השנתית, מתיישבים באותו שולחן עם מנהיגים של כמה מהממשלות החזקות בעולם כדי לדון, בין היתר, בסיכוני הסייבר של המודלים שלהם.
בעוד שדגמי AI חדשים ממשיכים להפעיל לחץ על סוכנויות אבטחת סייבר ברחבי העולם, ארה"ב עומדת בפני משבר נוסף משלה. זמן קצר לאחר שהנשיא טראמפ נכנס לתפקידו בינואר 2025, הפסידה סוכנות אבטחת הסייבר הבכירה במדינה, CISA, שליש מכוח העבודה שלה לפיטורים ביוזמת המינהל.
למרות שטראמפ היה אחראי למחצה להקמת הסוכנות בשנת 2018 במהלך כהונתו הראשונה, מאז הוא פנה נגדה לאחר שגורמים רשמיים סירבו לגבות את טענות הונאת הבוחר שלו בבחירות לנשיאות 2020 שהפסיד לנשיא לשעבר ג'ו ביידן. בקדנציה השנייה שלו, טראמפ עשה זאת מוּצָע יותר מ-250 מיליון דולר בקיצוץ תקציבי לארגון.
בחודש שעבר הייתה הסוכנות גם מעורבת בתקרית אבטחת סייבר מביכה למדי שבה עיתונאי חוקר בריאן קרבס גילה ש-CISA השאירה מידע כמו שמות משתמש וסיסמאות בטקסט רגיל למערכות פנימיות ב-GitHub, אולי במשך כשישה חודשים.
כשמודלים של בינה מלאכותית מתקדמים במהירות וממשלות עצמן מודים שהם מוכיחים שהם חבות לאבטחת סייבר, יהיה מעניין לראות כיצד CISA, שנכה תחת התקפות ממשל טראמפ, תגיב לאיומים הללו. עד כה, הדברים לא נראים נהדר במיוחד, במיוחד אם אתה מחשיב את הדיווח האחרון שהסוכנות קיבלה גישה מלאה למודל רק לפני שבועיים.