מומחי אבטחת סייבר מבולבלים מהאיסור של טראמפ על דגמי הבינה המלאכותית החדשים של אנתרופיק
שלושה ימים בלבד לאחר ה השקה של Fable 5גרסה עצבנית של Mythos שפחדו ממנו מאוד, אנתרופיק נאלץ לקחת אותו במצב לא מקוון.
ב א פוסט בבלוג שפורסם ביום שישי, החברה אמרה שהיא נצטווה על ידי גורמים בממשל טראמפ לעצור את הגישה ל-Fable – ולדגם אחר, פחות זמין בשם Mythos 5 – עבור כל האזרחים הזרים בארה"ב ומחוצה לה, כולל עובדי החברה עצמה. כדי לציית לכך, אנתרופיק אמרה שעליה לבטל את הגישה לדגמים עבור כל המשתמשים.
גורמים רשמיים פדרליים הוציאו את הצו בתגובה למידע המצביע על כך שניתן לבקש מדגמי החברה לעקוף מעקות בטיחות מסוימים, על פי הפוסט, ובכך להוות את מה שהממשל ראה כסיכון ביטחוני לאומי. עם זאת, החברה הוסיפה כי הפגיעויות כביכול "כולן נראות פשוטות יחסית, וגילינו שדגמים אחרים הזמינים לציבור מסוגלים לגלות אותם גם ללא צורך במעקף". הפוסט גם חזר על העובדה שפייבל נפרס עם מעקות בטיחות כל כך חזקים ורגישים שהם הפכו ל מקור להחמרה עבור חלק מהמשתמשים.
מְאוּחָר יוֹתֵר דיווח מִן המידע חשף כי החלטת ממשל טראמפ נבעה לפחות בחלקה משיחות קודמות בין מנכ"ל אמזון אנדי ג'סי לבין פקידי ממשל, כולל שר האוצר סקוט בסן. על פי הדיווחים, ג'סי אמר לגורמים הרשמיים שחוקרים פנימיים באמזון הצליחו להנחות את Fable לייצר מידע רגיש שיכול לשמש האקרים כדי לעקוף את מערכות אבטחת הסייבר של החברה, מה שגרם לפגישה בין הגורמים הרשמיים. ההנחיה לאנתרופיק להגביל את הגישה של זרים לדגמים נחתמה על ידי הנשיא טראמפ.
מצביע אצבעות
ב פוסט X ביום שבת, יועץ המדע והטכנולוגיה של הבית הלבן, דיוויד סאקס, אמר שהממשלה הוציאה את הוראתה לאנתרופיק "בחוסר רצון", ורק לאחר שמנכ"ל החברה דריו אמודיי "סירב" לתקן את בעיית האבטחה.
"התקווה של המנהל כעת היא שאנתרופיק תתקן את בעיית הבטיחות, בקרת הייצוא תוסר, ו-Fable חוזר לשחרור כללי", כתב סאקס בפוסט. "המנהל רוצה שכל זה יקרה בהקדם האפשרי. למען האמת, הוא מבולבל מכך שאנתרופיק לא רצתה להיענות לבקשות בטיחות שקודם לכן אמרה שהיו בראש סדר העדיפויות שלה".
נראה כי אנתרופיק נרתע מהצורך להשבית את הדוגמניות. "אנו מצייתים להנחיה המשפטית של הממשלה ומסירים את הגישה ל-Fable 5 ו-Mythos 5 עבור כל המשתמשים", כתבה החברה בפוסט בבלוג שלה. "עם זאת, אנחנו לא מסכימים שהממצא של פריצת כלא פוטנציאלית צריכה להיות סיבה להחזרת מודל מסחרי שנפרס למאות מיליוני אנשים".
הפוסט המשיך לרמוז שהחברה הייתה ממוקדת באופן לא הוגן על ידי ממשל טראמפ: "אם התקן הזה יוחל בכל התעשייה", כתבה אנתרופיק, "אנחנו מאמינים שזה בעצם יעצור את כל פריסת המודלים החדשים עבור כל ספקי המודלים הגבוליים".
לאור ההתנגשויות האחרונות בין אנתרופיק לממשלה הפדרלית, זה לא חשד כל כך לא סביר. בעקבות מחלוקת עם משרד המלחמה על השימוש במערכות הבינה המלאכותית שלה בצבא, החברה הוגדרה רשמית כסיכון ביטחוני לאומי על ידי הפנטגון. (אנתרופיק הגיש מאז שתי תביעות משפטיות המערערות על הייעוד.) בפוסט ה-X שלו, סאקס הכחיש שלצו ההגבלה נגד הדגמים האחרונים של אנתרופיק היה קשר למחלוקת של החברה עם משרד המלחמה.
"זה לא מעקף מעקה בטיחות"
בעוד שהקו הרשמי של ממשל טראמפ היה כי ידו נאלצה להוציא את הפקודה לאנתרופיק, וכי היא עשתה זאת אך ורק מתוך האינטרסים של שמירה על הביטחון הלאומי, חלקם ציינו כי למהלך יכול להיות אפקט הפוך.
א מכתב פתוח פורסם ביום ראשון ונחתם על ידי עשרות מקורבים לתעשיית אבטחת הסייבר ותעשיית הטכנולוגיה טענו כי על ידי הגבלת הגישה לדגמים החדשים של אנתרופיק, הממשלה נתנה מבלי משים למפתחי טכנולוגיה סיניים את העליונה. מערכות בינה מלאכותית עוצמתיות משמשות באופן שגרתי מומחי אבטחת סייבר לבדיקת לחץ מערכות אבטחת סייבר קיימות, צוין במכתב, כלומר ניסוי עם Fable 5 ו-Mythos 5 הוא חיוני לבנייה ועדכון של הגנת סייבר.
"הדגמים הסיניים במשקל פתוח נמצאים רק חודשים אחרי הדגמים האמריקאים הטובים ביותר, ואלה הדגמים שאנחנו מכירים עליהם", נטען במכתב. "נראה כי לממשלת PRC יש גישה ליכולות פרטיות מעבר למה שפורסם. למשוך את היכולות הטובות ביותר מהמגנים ללא סיבה טובה כאשר היריבים שלנו מתקדמים במהירות זה מסוכן".
בעצמה פוסט בבלוג פורסם בתחילת יום שני, היזמית ואסטרטגיית אבטחת הסייבר הוותיקה של מיקרוסופט קייטי מוסוריס אמרה שהחולשות לכאורה שנחשפו על ידי אמזון הן למעשה תכונה, לא באג. לדברי Moussouris, חוקרי אמזון האכילו בתחילה קוד פתוח של Fable וביקשו מהמודל למצוא את פרצות אבטחת הסייבר, אך הוא סירב. לאחר מכן הם ביקשו ממנו "תקן את הקוד הזה", ולאחר מכן הפכו את הפלטים שהתקבלו למתקפות סייבר אוטומטיות שיפעלו נגד המודל, שלדברי Mousouris הוא נוהג סטנדרטי בתחום אבטחת הסייבר.
"המגינים צריכים להיות מסוגלים לבקש מבינה מלאכותית לתקן את הבאגים בקובץ, להסביר מדוע התיקון חשוב ולכתוב בדיקות שמאשרות שהתיקון עובד", כתב מוסוריס. "זה לא מעקף של מעקה בטיחות. זה הדבר היקר ביותר שמודל בינה מלאכותית יכול לעשות עבור אבטחה הגנתית: ביצוע מגיני לולאות חיפוש, תיקון ובדיקת לולאות הפועלות מדי יום".