הדמוקרטים רוצים חוק הגבלת AI צבאי בעקבות נפילת הפנטגון של אנתרופיק
הדמוקרטים בקונגרס דוחפים להעביר הצעות חוק שיגבילו את השימוש של משרד ההגנה בבינה מלאכותית.
השבוע חשף הסנאטור הדמוקרטי אדם שיף מקליפורניה את הרשות האנושית בפעולות קטלניות (הֵל) חוק, הצעת חוק שתחייב מפקד אנושי לומר את המילה האחרונה על כל דרך פעולה שננקטת על ידי מערכות נשק אוטונומיות. הצעת החוק גם תחייב רישום מפורט של האופן שבו התקבלו החלטות צבאיות ונבחרו יעדים לבדיקה מאוחרת יותר, תקבע הגנות לחושפי שחיתויות, ותאסור שימוש בבינה מלאכותית במקרים מסוימים הכוללים נשק גרעיני ומעקב המוני.
"החודשים האחרונים הראו לנו שיש צורך דחוף במעקות בטיחות של שכל ישר כדי להבטיח שהשימוש של משרד ההגנה בבינה מלאכותית עולה בקנה אחד עם סדרי העדיפויות של הביטחון הלאומי והפרטיות של האמריקאים", אמר סנטור שיף בעיתונות לְשַׁחְרֵר. "החקיקה שלי תגן על אמריקאים מפני מעקב ביתי בלתי חוקי, תבטיח שבני אדם בשרשרת הפיקוד יממשו אחריות על השימוש בכל טכנולוגיה קטלנית, ותשמור על הגנות אתיות חזקות בפריסת נשק אוטונומי וחצי אוטונומי".
בינה מלאכותית היא חלק מהלוחמה כבר זמן מה. צבאות ברחבי העולם משתמשים במערכות בינה מלאכותיות לבחירת מטרות בתקיפות ומעקב המוני, דוגמה בולטת היא השימוש ב-AI על ידי הצבא הישראלי נגד פלסטינים. ארצות הברית גם פרסה זמן רב בינה מלאכותית בפעולות צבאיות, כולל באחרונה שלה מִלחָמָה נגד איראן.
אבל מוקדם יותר השנה, השימוש בבינה מלאכותית בצבא הוזנק לראש השיח הציבורי כאשר עסקה קיימת בין הפנטגון לאנתרופיק נפלה, ובצעד חסר תקדים, ענקית הבינה המלאכותית הוגדרה כסיכון שרשרת האספקה. אנתרופיק סירבה לכאורה להיפטר ממעקות הבטיחות במערכות הבינה המלאכותית שלה, שנועדו למנוע מה-DoD להשתמש במודלים שלה למעקב ביתי המוני ולנשק אוטונומי לחלוטין, כלומר מעורבות אנושית מועטה.
בעקבות נפילת העסקה, הפנטגון חתם על חוזים עם כמעט כל חברות הבינה המלאכותיות האחרות, כולל OpenAI, Google, Nvidia, SpaceX, Microsoft ו- Amazon Web Services. בינתיים, אנתרופיק ערערה על הייעוד בבית המשפט, אם כי דיווחים אומרים שממשל טראמפ מתחמם לחברה בעקבות שחרורו של Mythos, הדגם האחרון שלה שפורסם כסיוט לתעשיית אבטחת הסייבר.
לאחר הפרידה הפומבית מאוד של ממשל טראמפ מאנתרופיק, שלל דמוקרטים יצאו לתמוך בחברת הבינה המלאכותית ובעמדה שלה. רשימה זו כללה את הסנאטור שיף, מחבר חוק HALO.
"הלוואי והיו לנו יותר קולות כמו אנתרופיק בחוץ", הסנאטור שיף אמר בכנס החדשות של Punchbowl במרץ.
שיף הציגה שורה של הצעות חוק הקשורות לבינה מלאכותית בחודשים האחרונים, כולל הצעות לדרוש ממרכזי נתונים גדולים לשלם עבור הכוח שלהם, מחייבת חברות בינה מלאכותית לחשוף מוגנים בזכויות יוצרים עבודה המשמשת להכשרת דגמים, ולהביא אוריינות בינה מלאכותית כיתות לבתי ספר. עכשיו, הוא כן לפי הדיווח במטרה לתייג הצעת חוק זו יחד עם חבילת ההוצאות הצבאיות השנתית, הלא היא NDAA, אשר חייבת לעבור עד סוף השנה לכל המאוחר.
הוא לא הדמוקרט היחיד עם תוכנית כזו. הסנאטורית קירסטן גיליברנד מניו יורק הציגה את א הצעת חוק דומה מאוד מוקדם יותר החודש, מה שמביא הגבלות על השימוש בבינה מלאכותית בפריסת נשק גרעיני, מעקב פנים ונשק אוטונומי מלא. כל אלה ועוד"פעולות בעלות תוצאה גבוהה"כפי שהצעת החוק מגדירה אותם, יידרש אישור מגורם בכיר ב-DoD כדי להתקדם. הסנטור גיליברנד מתכנן גם הוא להציג את ההצעה בתור תִקוּן ל-NDAA.
ואז, יש את חוק מעקות ה-AI שהציגה סנטורית אליסה סלוטקין ממישיגן במרץ. כמו כן, מכוון למעקות בטיחות דומים מאוד לשטרות של הסנאטור שיף וגיליברנד, הסנאטור סלוטקין הוא לפי הדיווח מתכוננים להציגו גם כתיקון ל-NDAA.
אמנם כל שלוש הצעות החוק הללו שואפות להבטיח בטיחות על ידי הבאת פיקוח אנושי על כל החלטה שמתקבלת על ידי מערכות בינה מלאכותית במסגרות צבאיות, אך לא כאן מסתיימות הסכנות.
משתמשי AI רבים נוטים לסבול ממה שמומחים מכנים הטיית אוטומציההלא הוא האמונה שמערכת בינה מלאכותית יכולה לעשות שיפוט מדויק יותר ממך כי יש לה גישה ליותר מידע או אולי סיבות בצורה יעילה יותר. זה, כמובן, לא נכון: הטכנולוגיה רחוקה מלהיות מושלמת, ו-LLMs נוטים להזיות או לחשיבה מוטה. שלב את זה עם אופי ה"קופסה השחורה" של בינה מלאכותית, שבה למשתמשים אין תובנה מלאה כיצד או מדוע המערכת מנמקת כפי שהיא עושה, ויש לך תוכנית בינה מלאכותית צבאית שעדיין עלולה להוביל לטעויות שעלולות להיות קטלניות אפילו עם פיקוח אנושי.