קרא את האימיילים המתוחים בין הפנטגון (לשעבר Uber Exec) לאנתרופי (Dario Amodei)

זה מרגיש מציצני לקרוא טקסטים של פרידה של מישהו, אבל בדרך כלל הצדדים המעורבים בפיצול הם לא מעבדת בינה מלאכותית עם שווי של מיליארד דולר והסוכנות הגדולה ביותר בממשל הפדרלי, אז אפשר לסלוח לך על הרצון להציץ. ביום שלישי פורסמו מסמכי בית משפט הכוללים את המיילים שהובילו לנפילת אנתרופיק ומשרד ההגנה מוקדם יותר השנה, והם קראו בערך כפי שהיית מצפה בהתבסס על החשבון הציבורי של המצב.

הלוך ושוב, מנכ"ל אנתרופי דריו אמודי הבהיר שהדאגה העיקרית שלו היא שמשרד ההגנה ישתמש במודלים של ה-AI של המעבדה שלו למטרות שהוא והחברה לא היו נוחים איתן – כלומר, שילוב הטכנולוגיה במערכות נשק אוטונומיות וכלי מעקב ביתיים. כפי שצוין בעבר, עמדת הפנטגון היא שהוא יכול להשתמש בטכנולוגיה עבור "כל השימושים החוקיים", מה שיוצר כמות ניכרת של מרחב התנועות.

המיילים אכן חושפים שהזרעים לפיצול ניטעו בינואר, כאשר תת-שר ההגנה למחקר והנדסה של משרד ההגנה, אמיל מיכאל, הגיע לאמודי לאחר שתיקת רדיו במשך מספר שבועות. בתוכו, מייקל אמר שהוא "מקווה שאנחנו קרובים יותר לעסוק ב-POV המתוקן שלך" – בעצם, מקווה שאנתרופיק מוכן לשחק עם דרישות הפנטגון. אמודעי הגיב וחזר על עמדתו לפיה צריך להיות מעקות בטיחות לשימוש בבינה מלאכותית, לרבות חסימת השימוש בו לנשק אוטונומי מלא ומעקב ביתי.

מייקל אמר שזה "פשוט לא בר ביצוע", והזהיר שיש "הזדמנות נוספת להתיישר על עקרונות הליבה שיובילו לשפה משפטית" לפני שיחליט להיפרד. בהמשך הוא ציין כי "אין הבחנה בעולמנו בין נשק הגנתי או התקפי" (פרט שנראה ראוי לציון בהתחשב בוויכוח המתמשך על מכירת נשק "הגנתי" לישראל), ולכן ניסיונות של אמודעי לעשות אבחנה באשר לאופן השימוש בטכנולוגיה של החברה שלו יהיו חסרי תועלת.

אמודעי ציין כי התקן "כל השימושים החוקיים" לא יטוס עבור אנתרופיק מכיוון שהחוק האמריקני כן מאפשר מעקב פנים. בתגובה לאיזו שפה שהוצעה לכאורה מהפנטגון, ציין אמודיי למייקל שנראה שהמחלקה "מסירה לחלוטין את הקווים האדומים שלנו". למחרת, שר ההגנה פיט הגסת' הודיע ​​שהסוכנות שלו תגדיר את אנתרופיק כסיכון שרשרת אספקה, מה שדי שם קץ לכל המשא ומתן הזה.

אם כבר, אמודי נראה די טוב במיילים, בהתחשב בכך שהוא עמד בדעותיו. פחות מרשים היה מייקל, שעשה כל שביכולתו כדי לחלץ את הוויתורים שהסוכנות שלו חיפשה. אבל מייקל כבר נראה די מתפשר בכל המצב הזה, בהתחשב בעובדה שהוא היה כזה יושבים על ערימה שמנה של מלאי עבור המתחרה האנתרופית xAI, בֵּין השקעות אחרות בחברות בינה מלאכותית. גם אם ההתעשרות שלו הייתה רק בחלק האחורי של מוחו במהלך הלוך ושוב עם אמודיי, בראש מוחו היה להבין איך לשמור את הדלת פתוחה לשימוש ב-AI כדי להרוג אנשים ולפקח על אזרחים, אז לא בדיוק בחור עם מצפן מוסרי חזק בכל מקרה.

העלינו את מסמך בית המשפט המלא בן 346 העמודים שתוכל לעיין כאן.