ארה"ב ראתה סיכון של הפניית מודלים אנתרופיים למודיעין צבאי זר
וושינגטון – שר המסחר האמריקני הווארד לוטניק אמר שהוא נקט בפעולה נגד הדגמים האחרונים של Mythos ו-Fable AI של Anthropic מכיוון שגורמים רשמיים חששו שהם עלולים להיפרס על ידי משתמשי מודיעין צבאי בסין, רוסיה או מדינות אחרות מדאיגות.
לוטניק ציין את הסיכון במכתב שנשלח למנכ"ל האנתרופי דריו אמודיעון 12 ביונימזמין את החברה ל להשעות את הייצוא של דגמי הבינה המלאכותית ליעדים ברחבי העולם וכל האזרחים הזרים, בכל מקום שהם נמצאים, על פי עותק של המכתב שראה רויטרס בתאריך 15 ביוני.
צוות טכני בכיר אנתרופי נפגש עם פקידים במשרד המסחר בוושינגטון ב-15 ביוני כדי לנהל משא ומתן על פתרון, אמר גורם בממשל טראמפ.
ההימור גבוה, כאשר הממשלה מבקשת להבטיח שלא ניתן להשתמש במודלים כדי לפגוע בארה"ב, בעוד שאנתרופיק דוחפת להחזיר את הגישה לדגמים המובילים שלה לאחר שהוציאה אותם למצב לא מקוון עבור כל המשתמשים ביום שישי.
לוטניק היה חלק מהתהליך, מקיים שיחות קבועות עם פקידים אנתרופיים בזמן שהוא פועל לקראת עסקה, אמר מקור שמכיר את המצב. אמאדי ולוטניק שניהם אמור להשתתף בפגישות ה-G-7 ב-Evian-les-Bains, צרפת, שם הם עשויים לדבר עם המשך המשא ומתן. מנהל הסייבר הלאומי שון קיירנקרוס הצטרף ה-15 ביוני פגישה ברמת העבודה עם אנתרופיק במחלקת המסחר, הוסיף המקור.
הצוות הטכני של החברה נפגש עם גורמים רשמיים כמעט כל יום מאז שממשל טראמפ יצר קשר עם החברה 12 ביוניאמר לרויטרס אדם המקורב לחברה.
לאחר מכתב לוטניק, אנתרופיק אמרה שהיא תשבית את הגישה לדגמים ברחבי העולם.
הממשלה אמרה לחברה שהיא מאמינה שקיימת שיטה לעקוף, או "פריצת כלא", אמצעי הגנה שימנעו שימוש ב-Fable 5 בזיהוי פרצות תוכנה, אמר אנתרופיק בפוסט בבלוג 12 ביוני.
המעקף מצא רק פגמי אבטחה "קלים" שדגמים אחרים זמינים לציבור יכולים למצוא גם הם, הוסיפה החברה. היחסים בין ממשל טראמפ לאנתרופיק נקרעו מוקדם יותר ב-2026 לאחר שאנתרופיק סירבה לאפשר לצבא האמריקני להשתמש במודלים של AI שלו למעקב פנים ומערכות נשק אוטונומיות מלאות, והממשלה נקמה על ידי הכנסתו לרשימה השחורה של ביטחון לאומי.
הסטארט-אפ בינה מלאכותית שבסיסה בסן פרנסיסקו, שהגישה בחשאי בקשה להנפקה ראשונית בארה"ב, הזהירה בעבר על יכולות פריצה של דגם Mythos שלה והחזיק אותו משחרור רחב.
ב-9 ביוני, אנתרופיק הוציאה גרסה ציבורית, בשם Fable 5, שכללה מה שהיא תיארה כאמצעי הגנה על אבטחת סייבר.
אנתרופיק עבדה עם הממשלה כדי לבדוק את Fable 5 לפני שחרורו, אמר המקורב לחברה, וקיבל את אישורה לפרוס אותו.
במכתב לאנתרופי נאמר כי מחלקת המסחר נוקטת פעולה באמצעות רשויות שהוענקו לה במסגרת חוק הרפורמה בבקרת הייצוא לשנת 2018 כדי להטיל פיקוח על טכנולוגיות מתפתחות החיוניות לביטחון הלאומי של ארה"ב. זוהי הפעם הראשונה שמחלקת המסחר משתמשת בסמכות זו, לדברי מומחה לבקרת יצוא.
במכתב נאמר כי מחלקת המסחר תדרוש רישיון לייצוא (או העברה לאזרח זר בארה"ב), ואיים כי אי עמידה בהגבלה החדשה תגרום ל"עונשים פליליים ואזרחיים מהירים".
עם זאת, מומחי בקרת יצוא אמרו כי דגמי AI בדרך כלל אינם מיוצאים. הם נפרסים באמצעות גישה מרחוק, שתקנות בקרת היצוא אינן שולטות בה, ומעוררות שאלות בשאלה האם למסחר יש את הסמכות החוקית לנקוט פעולה כזו.
משרד המסחר לא הגיב לשאלות על הרשויות המדוברות. לא המחלקה ולא אנתרופיק הגיבו לבקשות להגיב בנושא 15 ביוני פְּגִישָׁה. יותר מ-80 מנהלי אבטחת סייבר ומומחים בנושא 14 ביוני חתם על מכתב פתוח ללוטניק ולמנהל הסייבר הלאומי שון קיירנקרוס שתמך בעמדתו של אנתרופיק.
במכתב זה, מנהיגי אבטחת סייבר בחברות גדולות, כולל Nvidia ו-Adobe, ביקשו מממשל טראמפ להסיר את ההגבלות על Anthropic. רויטרס