Anthropic (Sorta) קריאות להשהיה בפיתוח AI. אתה צריך (בערך) לקחת את זה ברצינות
אנתרופיק קורא להאטה חד-צדדית בפיתוח דגמי AI חדשים עד שניתן יהיה להפעיל אמצעי הגנה קפדניים – עם כמה אזהרות.
ב א פוסט בבלוג שפורסם ביום חמישי, החברה ציטטה את הנתונים הפנימיים שלה כראיה לכך שמערכות בינה מלאכותית מודרניות מתקרבות לנקודה של "שיפור עצמי רקורסיבי" – כלומר, יכולת לחדד את היכולות שלהן ללא אדם במעגל. "AI שיכול לבנות את עצמו תהיה פיתוח מרכזי בהיסטוריה של הטכנולוגיה – כזו שיכולה להביא טוב עצום לעולם במדע, בריאות ומעבר לכך", הפוסט, שנכתב על ידי מייסד החברה ג'ק קלארק מכון אנתרופי להוביל מרינה פבארו, קורא. "אבל שיפור עצמי רקורסיבי מלא עשוי גם להגביר את הסיכונים של בני אדם מאבדים שליטה מעל מערכות בינה מלאכותית."
הפוסט ממשיך ומציע שהדרך הטובה ביותר להתרחק מסיכונים כאלה יכולה להיות הפסקה עולמית בדומה להסכמי פירוק נשק ואי-הפצה מתקופת המלחמה הקרה, שבהן מדינות כמו ארה"ב ורוסיה הסכימו להגביל את תוכניות הנשק הגרעיני שלהן כדי להימנע ממה שזכה לכינוי הרס מובטח (MAD). "אם ניתן היה להאט ביעילות את הפיתוח של הטכנולוגיה הזו כדי לתת לעצמנו יותר זמן להתמודד עם ההשלכות העצומות שלה, אנחנו חושבים שזה כנראה יהיה דבר טוב", כתבו המחברים.
אם כל זה נשמע מוכר, אתה לא הוזה. עוד בתחילת 2023, ארגון ללא מטרות רווח, Future of Life Institute, פרסם מכתב פתוח קורא לכל מעבדות הבינה המלאכותית הגבוליות לבצע הפסקה של שישה חודשים בפיתוח דגמים חדשים רבי עוצמה. הוא נחתם על ידי אילון מאסק, חוקר הבינה המלאכותית החלוצי יושע בנג'יו, המייסד המשותף של אפל סטיב ווזניאק ועשרות אלפי אחרים. למרות שהמכתב הזה ורשימת החותמים הזוהרת שלו עשו הרבה כדי להניע את השיחה הציבורית סביב הסיכונים של תעשיית בינה מלאכותית המונעת על ידי היגיון קפיטליסטי עיוור, מעולם לא נחקקה מדיניות מוצקה כדי להפוך את ההפסקה של שישה חודשים למציאות. רק כמה חודשים לאחר פרסום זה, מאסק השיק בפומבי סטארט-אפ AI משלו כדי להתחרות ב-OpenAI, Anthropic, Google ושאר המעבדות הגדולות.
צומת דרכים
ראוי לציין את השפה המגודרת ביותר שבה משתמש אנתרופיק בפוסט הבלוג שלה: אם זה היה אפשרי…אנחנו חושבים…סָבִיר…. זה נראה יותר כהצעה מאשר קריאה לפעולה מחויבת לחלוטין. יכול להיות שזה קשור לצומת הדרכים בו עומדת החברה כעת.
מאז הקמתה, אנתרופיק קבעה לעצמה עמדה כמעין מצפון מוסרי עבור התעשייה, השחקן הגדול היחיד שמוקדש לבניית בינה מלאכותית בזהירות, ובמידת הצורך, לאט, כדי למנוע סוג של תרחיש בינה מלאכותית נוכל שממנו חוששים מחברי מדע בדיוני, פילוסופים ומנהיגים רבים במעבדת הבינה המלאכותית הגדולה עצמם. גישה מוכוונת בטיחות זו השתלמה בבירור. בעוד שהצ'אטבוטים של קלוד שלה עדיין נגררים מאחורי ChatGPT של OpenAI בהורדות אפליקציות, הכלים שלה הפכו פופולריים מאוד בקרב מפתחי אתרים ולקוחות ארגוניים, שניהם מהווים נתונים דמוגרפיים מרכזיים בתעשייה. זה אחד הגורמים הגדולים מאחורי ההאפלה האחרונה של OpenAI כסטארט-אפ היקר ביותר בעולם.
אבל יש לה גם הנפקה צפויה מאוד, ולאחר מכן היא תידרש על פי חוק – כמו כל החברות הנסחרות בבורסה – לעשות מה שטוב לבעלי המניות שלה. ולפחות בשלב זה של תנופת הבינה המלאכותית, דריכה על הבלמים אינה נתפסת כאסטרטגיה פיננסית מנצחת לטווח ארוך.
מבקרי טיעון ההאטה אומרים בדרך כלל שבהתחשב בהימור הפיננסי והגיאופוליטי העצום של מרוץ הבינה המלאכותית, אין זה סביר שארה"ב, סין ומדינות אחרות יסכימו להשהות את הפיתוח, וגם אם כן, זה יהיה בלתי אפשרי לאכוף הפסקה כזו. גרוע מכך, אם כל המפתחים בארה"ב יסכימו לעצור, זה עלול להשאיר את הדלת פתוחה למפתחים פחות אתיים במקומות אחרים לקחת את ההובלה, לרעת כולם. כפי שכתבו זאת קלארק ופבארו בפוסט שלהם, "אם האטה פשוט תאפשר לשחקנים הפחות זהירים להתעדכן מבחינה טכנולוגית, זה עלול להשאיר את כולם פחות בטוחים".
כדי להיות אפקטיבי, טוענים קלארק ופבארו, האטה תדרוש לא רק הסכמה חד-צדדית בין מפתחי בינה מלאכותית ברחבי העולם, אלא גם סוג של מנגנון גלובלי שיוכל לוודא שכל מעבדה אכן השהתה את הפיתוח, וזה יפעיל אזעקה אם וכאשר ההפסקה תופר.
זה מעלה יותר שאלות ממה שהוא עונה, שכן לא ברור איך מערכת פיקוח כזו עשויה להיראות בפועל. שוב, הסכמי גרעין מתקופת המלחמה הקרה יכולים לספק תבנית גסה, אבל זה בשום אופן לא התאמה של אחד לאחד. "הרבה יותר קל להסתיר ריצות אימון מאשר ממגורות טילים", מודה הפוסט. (אסור גם לשכוח שלמרות הסכמים בינלאומיים לאחר המלחמה נגד הפצת נשק גרעיני, מעצמות גרעיניות כמו ארה"ב, סין ורוסיה שוב בונות את הארסנלים הגרעיניים שלהן.)
הפוסט החדש בבלוג ציין כי בחודשים הקרובים, אנתרופיק מתכננת להיפגש עם קובעי מדיניות, מתחרותיה בתעשייה ובעלי עניין אחרים כדי לדון באתגרים הללו, ובתקווה לעבוד לבניית מערכות פיקוח שיהפכו הפסקה גלובלית לממש ניתנת ליישום. שוב, אולי עם עין כלפי בעלי המניות העתידיים שלה, החברה נתנה מה שמרגיש כמו התחייבות חצי לב: "אם מערכות כאלה היו קיימות, אנו מצפים שנאט או נשהה זמנית, אם מפתחים אחרים בגבול או בקרבתו יעשו זאת באופן שניתן לאימות".