מזכ"ל האו"ם קורא לאסור גלובלי על בינה מלאכותית "רובוטים רוצחים"
לתומכי בטיחות בינה מלאכותית יש הרבה תרחישי אסונות היפותטיים שהם יכולים לעורר כדי לזכות בתמיכה למטרה שלהם. אבל לאף אחד מאלה אין את המשיכה הרגשית הגולמית של רובוטים רוצחים.
במשך עשרות שנים, אנחנו כתרבות ספוגים בתיאורי מדע בדיוני של מכונות אינטליגנטיות שהולכות ונוכלות ומנהלות מלחמה נגד יוצריהן האנושיים. סרטים כמו המחסל ו המטריקס לעלות על הדעת, למשל. פרק משנת 2017 של סדרת הטלוויזיה הבריטית מראה שחורה המכונה "מטאלהד" גם מדמיינת עתיד מסויט שבו בני אדם ניצודים ונהרגים באופן שיטתי על ידי רובוטים אוטונומיים בעלי ארבע רגליים (שנראים הרבה כמו הרובוט המפורסם "ספוט" שנבנה על ידי בוסטון דיינמיקס). האירועים אצל פרנק הרברט חוֹלִית מתרחש לאחר מלחמה קטקלזמית בין האנושות ל"מכונות החשיבה". יכולתי להמשיך.
הנקודה היא שכאשר מזכ"ל האו"ם קורא לקהילה הבינלאומית לאסור על "רובוטים רוצחים", הביטוי הזה הולך להדהים בדמיון הציבורי – במיוחד כשהציבור הזה כבר נזהר מהמהלך הנוכחי של פיתוח בינה מלאכותית מסיבות מוחשיות הרבה יותר מיד, כמו חשבונות חשמל שהולכים וגדלים והולכים ומתפשטים של חשבונות חשמל מקוונים וחסרי אימון.
ביום שני, במהלך הראשון אי פעם דיאלוג גלובלי על ממשל בינה מלאכותית בז'נבה, מזכ"ל האו"ם, אנטוניו גוטרס, כינה את הפיתוח של כלי נשק המונעים על ידי בינה מלאכותית "דוחה מבחינה מוסרית", והפציר ב-193 המדינות החברות באו"ם לאסור באופן חד צדדי את הטכנולוגיה משדה הקרב.
"חלק מההחלטות חייבות להישאר אנושיות לנצח", אמר גוטרס בנאומו, "לא יותר מלקיחת חיי אדם".
דבריו הדהדו קטע מתוך האנציקליקה האחרונה של האפיפיור ליאו ה-14, אנושיות מפוארתשבו כתב האפיפיור כי "הפיתוח והשימוש בבינה מלאכותית בלחימה חייבים להיות כפופים לאילוצים האתיים המחמירים ביותר, כדי להבטיח כיבוד כבוד האדם וקדושת החיים ולהימנע מ מירוץ לפתח זרועות כאלה."
עמק הסיליקון מחולק
שימוש צבאי בטכנולוגיה חדשה היה זה זמן רב הגורם לפילוג מוסרי בעמק הסיליקון. בשנת 2018, אלפי עובדי גוגל חתם על מכתב מופנה למנכ"ל סונדאר פיצ'אי במחאה נגד שותפות החברה לפיתוח טכנולוגיה עבור הפנטגון המכונה Project Maven. בשנה שלאחר מכן, מיקרוסופט התמודדה עם תופעה דומה תגובה פנימית על הסכמתה לספק אוזניות מציאות רבודה של HoloLens לצבא ארה"ב למטרות אימוני לחימה.
אבל בינה מלאכותית, עם יכולתה לזהות דפוסים עדינים מתוך מרחבים עצומים של נתונים ולקבל החלטות ללא תלות בפיקוח אנושי כלשהו, העלתה שאלות חדשות דחופות לגבי הקשר של תעשיית הטכנולוגיה עם הצבא. המפורסם ביותר, אנתרופיק הסתבך במחלוקת עם משרד המלחמה האמריקני מוקדם יותר השנה בשאלה האם ניתן להשתמש במערכות הבינה המלאכותית של החברה למעקב פנים ומערכות נשק אוטונומיות. החברה החזיקה מעמד בעמדתה נגד שני מקרי השימוש, מה שהוביל את שר המלחמה פיט הגסת' להגדיר אותה כ"סיכון שרשרת אספקה", כלומר הטכנולוגיה שלה נחשבה רשמית כאיום על הביטחון הלאומי. (זו הייתה הפעם הראשונה שהתווית הוחלה על חברה אמריקאית, ואנתרופיק נאבקת כעת בבית המשפט כדי להסיר אותה.)
התומכים בשימוש בנשק המצויד בבינה מלאכותית טוענים שהוא יכול לסייע בקבלת החלטות אנושית בלהט הקרב, ולהפחית את הסבירות שאזרחים חפים מפשע יהיו ממוקדים כלוחמים עוינים. חלקם אפילו מפעילים את הרטוריקה המוסרית של גזע הבינה המלאכותית הרחב יותר, טוען לארה"ב יש חובה אתית לשמור על יתרון טכנולוגי בתחכום של תוכנית הנשק האוטונומית שלה על פני יריבים כמו סין, רוסיה ואיראן.
טראמפ מבלבל את מי נשק הבינה המלאכותית
ב א תזכיר ביטחון לאומי שפורסם בחודש שעבר, הנשיא טראמפ האשים ממשלים קודמים ביישום "ביורוקרטיה בלתי הוגנת" סביב פיתוח בינה מלאכותית, כולל נשק אוטונומי. למרבה האירוניה, מאז פרסום התזכיר הזה, הן OpenAI והן Anthropic – שני מפתחי הבינה המלאכותית המובילה בארה"ב – נקלעו לקורי עכביש של בירוקרטיה פדרלית אשר מאלצת אותם להפיץ את המודלים החזקים ביותר שלהם בתנאים של ממשל טראמפ. "בינתיים", המשיך טראמפ וכתב בתזכיר, "המתחרים שלנו המשיכו לפתח ולפרוס AI משלהם וטכנולוגיות אוטונומיות מתוחכמות למטרות צבא ומודיעין, תוך שימוש בהם ללא התחשבות בפיקוח אנושי מתאים או לחירויות אזרחיות".
טראמפ הוסיף בתזכיר כי הוא נשבע "להאיץ באופן אחראי את השימוש בבינה מלאכותית על פני תחומי המודיעין והלחימה בהתאם לערכים האמריקאיים".
מזכ"ל האו"ם גוטרש, האפיפיור ליאו ותומכי בטיחות אחרים, לעומת זאת, חוששים מהנשק הטכנולוגי מרוץ חימוש דינמיקה שכבר מזינה את פיתוחי הבינה המלאכותית בארה"ב ובסין עלולה לייצר בקרוב כלי נשק אוטונומיים עם תהליכי קבלת החלטות אטומים לחלוטין לבני האדם שבנו אותם, ואשר בסופו של דבר יכולים לברוח לחלוטין משליטה אנושית.
תרחיש כזה יכול להיות הרבה יותר עגום ממה שאפילו היצירה האפלה ביותר של ספרות דיסטופית יכולה לדמיין.