סם אלטמן ודאריו אמודי מסכימים פעם אחת, חותמים על מכתב נגד נשק ביולוגי בסיוע בינה מלאכותית
אתה לא צריך להיות חובב AI כדי להכיר בכך שבינה מלאכותית יכולה לפעמים להיות כלי שימושי בחיפוש אחר ידע חדש. אם משהו מהידע החדש הזה יהיה במקרה מתכון לנשק ביולוגי, אני חושב שרוב האנשים יכולים להסכים שזה יהיה מבאס.
מנכ"ל OpenAI, סם אלטמן, ומנכ"ל אנתרופי דריו אמודיי לא מסכים בהרבהאבל הם מסכימים שזה יהיה מבאס, והם חתמו את שמם במכתב פתוח שאומר זאת. המכתב עצמו מכנה זאת "רגע נדיר של הסכמה בין מחזיקי עניין שלעתים קרובות מתנגדים".
חותמי מכתבים אחרים כוללים את דמיס חסאביס ואלכסנדר וואנג, בהתאמה ראשי הבינה המלאכותית ב-Google Deepmind ומטה, יחד עם אנשי עסקים וחוקרים אחרים של בינה מלאכותית, ועוד עשרות מדענים ומומחי מדיניות.
לדחף המרכזי של המכתב אין למעשה שום קשר לבינה מלאכותית; הוא מכוון לקובעי מדיניות, ופשוט מבקש להעביר חקיקה המחייבת את אלה שיש להם את היכולת לשמור על חומצת גרעין סינתטית לעשות זאת. באופן ספציפי, הוא מבקש שכאשר יגיעו בקשות ל-DNA (וכנראה ל-RNA, למרות שהמכתב לא מזכיר זאת), הם ייסרקו לאיתור "רצפי דאגה", וש"לגיטימציה של הלקוח" תיבדק לפני שליחת חומצת גרעין מסונתזת. היא גם מבקשת להקליט נתונים על הזמנות ולהיות זמינים לחוקרים, בטענה: "המודעות לעקיבות עצמה מונעת שימוש לרעה".
הפיתוח המהיר של AI רק מוסיף דחיפות. המכתב אומר שמכיוון שה-AI מתקדם כל כך מהר, "יש אפשרות אמיתית שמחסמי הידע שמנעו היסטורית משחקנים רעים להשיג נשק ביולוגי יישחקו בצורה משמעותית".
חוטי הערות שהמכתב אורגן על ידי שני צוותי חשיבה: המכון להתקדמות, המתואר כבלתי מפלגתי, והקרן לחדשנות אמריקאית, שככל הנראה נוטה לימין.
OpenAI, מצדה, נקטה לאחרונה בצעדים שנראים מכוונים לשייך את החברה והמנהיג שלה לאחריות. זה שחרר א ספר לבן מדיניות יום שלישי, מתווה תוכנית לבדיקת דגמי AI ברמה הפדרלית המחמירה יותר מהתוכנית ב- הוראת ביצוע לאחרונה מהנשיא טראמפ. ביום רביעי, אלטמן נפגש גם עם ברני סנדרס, המבקר החריף ביותר של AI כיום בסנאט האמריקאי.