המלחמה הקרה של AI פשוט נעשתה קרירה יותר
בתור הסטארט-אפ החדש שהוכתר הכי יקר בעולם ויצרנית של מה שנחשבות רבות למערכות הבינה המלאכותית המסוגלות ביותר, לאנתרופיק יש קו עדין לגרור כשהיא מתבגרת תחת ממשל הידוע בבחירת קרבות הן בבית והן מחוצה לה. אם היא רוצה להמשיך לשחרר דגמי AI מובילים בתעשייה, היא תצטרך לעשות זאת – לפחות לעת עתה – בתנאים של הממשלה הפדרלית עצמה. זה ככל הנראה כולל שמירה זהירה על התעללות סינית, גם אם יש ליישם זאת באמצעות תוכנות ריגול לא בולטות.
מוקדם יותר השבוע, החלו לצוץ תלונות ב-Reddit על מנגנון המוטמע בתוך קלוד קוד, שנראה היה שסמן משתמשים המבוססים בסין (או עם קשרים עם מעבדות בינה מלאכותית סיניות) על ידי זיהוי סימנים מעידים כמו אזור זמן ושימוש בכתובות פרוקסי. Redditor אחד עשה את התיק שבאמצעות מעקב בחשאי אחר משתמשים סיניים, אנתרופיק תוכל בסופו של דבר להשתמש בתוכנות הריגול שלה למטרות זדוניות יותר. "היום זה בדיקת אזור זמן", כתב Redditor. "מחר זה יכול להיות חבלה במערכת או חילוץ נתונים".
תגובתו של אנתרופיק לכך הייתה בעצם: אופסי-דייזי! ב פוסט X ביום שלישי בלילה, תאריק שייפאר, חבר בצוות הטכני של אנתרופיק שעובד על קלוד קוד, אמר כי תוכנת הריגול היא "ניסוי שהשקנו במרץ, שנועד למנוע שימוש לרעה בחשבון ממשווקים לא מורשים ולהגן מפני זיקוק", שהחברה "התכוונה לקחת [the spyware] למטה לזמן מה," וכי "צריך להחזיר אותו במלואו לאחור" ב פריסה מחדש של משל 5שהגיעה ביום שלישי. אנתרופיק לא הגיבה מיד לבקשה לשתף פרטים נוספים על ציר הזמן ומטרת התוכנית.
סין היא כבר מזמן קוץ בה אנתרופיק. החברה האשימה מספר מעבדות AI סיניות מובילות, כולל DeepSeek, Moonshot, MiniMax, ולאחרונה, עליבאבאשל שימוש לא חוקי בקלוד כדי להכשיר דגמי AI חדשים, תהליך המכונה בתעשייה זיקוק. בעוד שזיקוק הוא מנהג נפוץ ובדרך כלל לא מזיק המאפשר לחברות קטנות יותר להכשיר דגמים חדשים באמצעות עמיתים גדולים יותר כמו קלוד ו-ChatGPT, לאחרונה הוא התגלה כמקום מכריע במרוץ החימוש בינה מלאכותית בין ארה"ב לסין. הבית הלבן נשבע לפצח את מה שהוא מְתוּאָר כ"קמפיינים מתואמים [that] לחלץ באופן שיטתי יכולות ממודלים של AI אמריקאי, תוך ניצול מומחיות וחדשנות אמריקאים".
ההוצאה המחודשת של Fable 5 המיוחלת אתמול הייתה גם סוף וגם התחלה. מצד אחד, נראה היה שזה סיכם את הפיאסקו האחרון של אנתרופיק עם ממשל טראמפ, שהחל בתחילת החודש שעבר בהוראה של שר המסחר האמריקני הווארד לוטניק להעביר את הדגם לא מקוון עבור כל "האנשים הזרים". בהתייחס לסיכוני ביטחון לאומי – בבירור עם עין כלפי סין – הפקודה של לוטניק נבעה בחלקה על ידי מחקר מאמזון, שכביכול הראה שניתן לשבור את מעקות הבטיחות החזקים של Fable, כלומר לעקוף באמצעות הנחיה יצירתית. אבל ההודעה גם בישרה את מה שיכול להיות נורמה חדשה של שיתוף פעולה בין הממשל הפדרלי למגזר הבינה המלאכותית.
בה הַכרָזָהאישרה אנתרופיק כי פריצת הכלא לכאורה שדווחה על ידי אמזון הייתה, על פי רוב, לא יותר מאשר זיהוי של פרצות אבטחת סייבר שמספר גרסאות קודמות ופחות חזקות של קלוד גם יכלו לזהות. היה מקרה אחד שצוטט בדו"ח של אמזון שבו Fable הרחיק לכת ויצר קוד שמראה כיצד ניתן לנצל פגם אבטחה מסוים, אך לפי Anthropic, מספר דגמים אחרים, כולל GPT-5.5 של OpenAI ו-Kimi-K2.7 של Moonshot, הצליחו לעשות את אותו הדבר.
בקצרה, אנתרופיק אמר שהממשלה הפדרלית שמה לה למטרה היא חסרת בסיס לחלוטין, לפחות בכל הנוגע לביטחון הלאומי. ההכללה של Kimi-K2.7 במבחני פריצת הכלא הפנימיים שלו היא משמעותית, מכיוון שהיא נותנת תמיכה לטענה של מומחי סייבר רבים שהאיסור הפדרלי על הדגמים המובילים של Anthropic לא מועיל לאף אחד כמו תעשיית הבינה המלאכותית הסינית, שבמשך שנים מבצעת דחיפה גדולה למודלים של קוד פתוח. עוד לפני האיסור על Fable/Mythos, לאותן חלופות קוד פתוח הייתה משיכה גדולה בקרב מפתחים ועסקים אמריקאים שהתאכזבו מהעלויות הטיפוס של כלי בינה מלאכותית תוצרת בית כמו קלוד קוד והקודקס של OpenAI.
אולם, בסך הכל, ההודעה של אנתרופיק הייתה יותר מפייסת מאשר הגנתית. הטון הכללי היה: אנחנו לא מאמינים שעשינו משהו שמגיע לזה, אבל אנחנו עדיין רוצים לעבוד עם הממשל הפדרלי, וגם עם המתחרים שלנו בכל תעשיית הטכנולוגיה – מסתכלים בך, אמזון – כדי לוודא שסוג כזה של תקלה לא יקרה שוב, לא לנו או לאף אחד אחר.
החברה אמרה שהיא משתפת פעולה עם כמה חברות טכנולוגיה מובילות וארגונים שותפים אחרים ב-Project Glasswing "כדי לנסח מסגרת קונצנזוס להערכת חומרת פריצות הכלא של בינה מלאכותית וכיצד על מפתחי בינה מלאכותית להגיב אליהן". היא סיפקה כמה קריטריונים ראשוניים שמסגרת כזו צריכה למדוד – כולל "קלות הנשק" – ואמרה שהיא האצילה צוות פנימי למעקב אחר התפתחויות פורצות כלא 24/7. ההכרזה כללה גם כמה אזהרות מנוסחות בקפידה לגבי איך ייראו מערכת היחסים של אנתרופיק עם הממשל הפדרלי להתקדם, כולל עבודה "לקראת תקן אבטחה והערכה משותף ורצוני לספקי מודל גבול".
כמו תמיד, למרות שזה מעולם לא הוזכר במפורש, רוח הרפאים של סין ריחפה מעל הודעתו של אנתרופיק.
החברה ציירה את עצמה זה מכבר כמצפון של תעשיית הבינה המלאכותית, משקל נגד לכוחות השוק שאחרת עלולים לחייב את עמק הסיליקון להעלים עין מהסיכונים של המהפכה הטכנולוגית החדשה שמתחוללת כעת. יחד עם זאת, זה מהדהד לעתים קרובות את הקו המפלגתי של ממשל טראמפ והמתחרה הגדולה שלו, OpenAI, על ידי התעקשות שלארצות הברית יש חובה מוסרית להיות המובילה העולמית בפיתוח בינה מלאכותית, כי אם לא נתקדם, הטענה אומרת, סין תעשה זאת. המסגרת הבינארית הזו – או אנחנו או סין – שיחקה מאוד מאחורי הקריאה האחרונה של החברה לוועדה בינלאומית של בינה מלאכותית לפקח, ואם יש צורך, להפעיל את הבלמים, התקדמות ה-AI הגבולית.
גם המנכ"ל האנתרופי, דריו אמודיי, הביע לעתים קרובות את הצורך בשיתוף פעולה בין תעשיית הבינה המלאכותית האמריקאית והסינית, אולי במודל של הסכמי אי-הפצה גרעיניים מתקופת המלחמה הקרה. שיתוף פעולה כזה אפשרי ללא ספק, אבל זה הרבה פחות סביר תחת הממשל הנוכחי. גם השקת תוכנת ריגול סמויה המיועדת למשתמשים בסין כנראה לא עוזרת.