מנהיג בטיחות נוסף ב-OpenAI עזב
יוהנס היידקה, ראש מערכות הבטיחות ב-OpenAI, עוזב. אני יודע מה אתה חושב: היי, ראש הבטיחות ב-OpenAI לא עזב?
למעשה, זה מרגיש כאילו ראש הבטיחות ב-OpenAI הוא די הרבה תָמִיד עֲזִיבָה. עבודה בהנהגת בטיחות – בהגדרה רופפת – ב-OpenAI היא קצת דומה עובד כמתופף בלהקת Spinal Tap; הרבה מחזורים. אני לא הקרמלינולוג המוביל של OpenAI בעולם, אז אולי חסרים לי כמה פרטים וניואנסים, אבל הנה ציר הזמן הבסיסי שלי:
לפי Wiredאלו שדווחו בעבר לצוותי הבטיחות של היידקה יובילו על ידי מיה גלייז, שהיא סמנכ"לית, וגם ראש המערך. עם זאת, נראה שיש תחליף אחר להיידקה, לפי Wired. סחי ג'יין, לשעבר מנהיג צוותי בטיחות, יהיה כעת "ראש זמני של מערכות בטיחות" תחת גלייז.
מה שבדיוק ממשיך לקרות במשרדים של OpenAI הוא ניחוש של מישהו, אבל ראש המחקר של OpenAI, מארק צ'ן, לפחות נתן ל-Wired רמז, ואמר, "הדרישות לבטיחות ממשיכות לעלות – אנחנו מאמנים מודלים בקצב מהיר הרבה יותר, ומחזורי השחרור ירדו מאוד בתורם", והוסיף, "כתוצאה מכך, יש לנו היום אתגרי תיאום גדולים יותר מאי פעם".
הקריאה הנדיבה היא שזו עדיין תעשייה לא בשלה. הנקודות בשרשרת שבהן נחוצים באמת שיקולי בטיחות עשויים להמשיך לקפוץ מסביב בזמן ש-OpenAI תגלה איך הכי טוב לבנות את המוצרים שלה. אולי הליך בדיקת הבטיחות ההגיוני של היום הוא צוואר הבקבוק המיותר של מחר.
ואין הוכחה ישירה ממשית לקריאה פחות נדיבה של עזיבתו של היידקה – למשל, כזו שבה כל שיקול כזה הוא רציונליזציה פוסט-הוקית לחיתוך נהלי בטיחות בשירות של השקת מוצרים מהירה יותר.