חוקרים מראים כיצד תולעים המופעלות על ידי בינה מלאכותית יכולות להמיט הרס באינטרנט
ראינו כיצד ניתן להשתמש בבינה מלאכותית כדי למצוא פגמים באפליקציות ובאתרים, אך חוקרים הדגימו כעת כיצד ניתן לנצל את הפגיעויות הללו בנשק. צוות מה אוניברסיטת טורונטו השתמש במודלים של AI נגישים לציבור כדי להפעיל תולעת אב טיפוס המסוגלת לנצל כל פגם מחשב ידוע. תולעים כאלה עלולות להתפשט דרך רשתות ולגרום לכאוס ברחבי האינטרנט.
תולעת טיפוסית מתוכננת בדרך כלל על ידי מתכנתים מיומנים כדי לנצל פגמים ספציפיים ברשת וניתן לעצור אותה על ידי תיקון פגמים אלו. עם זאת, מדעני ה-U של T, שעבדו בסביבה סגורה מאובטחת ונוקטים באמצעי זהירות נרחבים, השתמשו במודלים בעלי משקל פתוח (קוד פתוח) בינה מלאכותית כדי ליצור תולעת אב טיפוס מתוחכמת הרבה יותר שהתפשטה ברשת הבדיקות של הצוות ללא התערבות אנושית.
סוג חדש זה של תולעת מתאים את התקפתו לסוגים שונים של פגמים על פני פלטפורמות מרובות, כולל לינוקס, Windows ומכשירי IoT. הוא אוסף נתונים תוך כדי תנועה ברשת, שואב סיסמאות ומגלה נקודות תורפה נוספות שיסייעו לו להשתלט על מכונות אחרות. אם זיהום מתגלה ומתוקן במחשב, התולעת יכולה לנצל פגמים אחרים כדי לתקוף את אותה מכונה.
יתרה מכך, התולעת "מזינה" את עצמה על ידי סיפוק כוח עיבוד ממכונות נגועות כדי להניע את ההיגיון והאסטרטגיה שלה להתקפות עתידיות. "האקרים נאלצו בדרך כלל לתעדף את היעדים בעלי הערך הגבוה ביותר מכיוון שהזמן ומשאבי המחשוב היו מוגבלים", אמר המחבר הראשי, ניקולס פאפרטו. "אבל עכשיו, לאחר שיגור תולעת, העלות תרד לכמעט אפס."
הרעיון של איומי סייבר מונעי בינה מלאכותית הפך לממשי לאחרונה עם השקת Mythos של Anthropic, מודל שיכול לזהות סיכוני אבטחת סייבר שלא היו ידועים בעבר. Anthropic אמרה ש-Mythos כבר חשפה יותר מ-10,000 פגמים, מה שהגדיל את שיעור איתור הבאגים של השותפים שלה ביותר מפקטור של 10. Cloudflare, שעוזרת להגן על חברות מפני התקפות זדוניות, מצאה 2,000 נקודות תורפה כאלה, כולל 400 שנחשבות גבוהות או קריטיות.
תולעת האב-טיפוס שנוצרה על ידי החוקרים יכולה רק לנצל פגמים ידועים ולא למצוא לא ידועים כמו Mythos. עם זאת, קל לראות כיצד שחקנים גרועים יכולים להתאים אותו גם כדי למצוא וגם לנצל פגיעויות חדשות – מה שיהפוך אותו לכמעט בלתי ניתן לעצירה אם ישוחרר לטבע. "בעולם מקושר, אף מערכת לא חסינה מפני האיום הזה", אמר פפרט. "שיתוף הממצאים הללו הוא הצעד הראשון בגיבוש חוקרים, מנהיגי תעשייה וקובעי מדיניות לפעול – ובמהירות".