Anthropic מציע האטה עולמית בפיתוח AI
אנתרופיק אומר שה-AI מתפתח כל כך מהר, שהמגמה מצביעה על כך שמערכות הופכות להיות מסוגלות לפתח יורש משלהן. אנחנו עדיין לא שם, אבל היא מאמינה שזה "יכול להגיע מוקדם יותר ממה שרוב המוסדות מוכנים אליו". ב א פוסט בבלוגAnthropic מסביר שבינה מלאכותית שיכולה לבנות את עצמה יכולה "להביא טוב עצום לעולם" בתחומי המדע והבריאות, בין היתר. עם זאת, זה עשוי גם "להגביר את הסיכונים של בני אדם לאבד שליטה על מערכות בינה מלאכותית". אז איך האנושות יכולה למנוע מסקיינט להפוך לדבר אמיתי? אנתרופיק מציע שהתשובה היא ההאטה העולמית או ההפסקה הזמנית של פיתוח בינה מלאכותית "כדי לאפשר למבנים חברתיים ולמחקר יישור לעמוד בקצב התקדמות הטכנולוגיה".
החברה היא אחד השמות המובילים במירוץ ה-AI כיום, ובניגוד למתחרותיה שטרם הרוויחו כסף, לפי הדיווחים היא בדרך לרבעון רווחי ראשון. לאחרונה היא הגישה ניירת ל-SEC כדי לצאת לציבור, ככל הנראה לפני שהשנה תסתיים. כְּמוֹ הוול סטריט ג'ורנל מציינים, מבקרים טוענים שהאזהרות של Anthropic לגבי הטכנולוגיה שלה הן תכסיס שיווקי, אולי במאמץ לגרום לה להיראות כמו הפחות מופרכת מבין כל חברות הבינה המלאכותית או לגרום לזה להיראות כאילו המוצרים שלה הם הטובים ביותר שיש.
המבקרים מצביעים במפורש על ההפצה המוגבלת של מודל ה-AI של אבטחת הסייבר, Mythos, כדוגמה. אנתרופיק אמרה שהיא מעמידה את Mythos לזמינה לקבוצה נבחרת של שותפים בשל הנזק הפוטנציאלי שלה שיכולה לזהות במהירות פגיעות עלולה לגרום בידיים הלא נכונות. אבל אנשים חושבים שזה רק תחבולה הייפ למעלה המוצר או אל טִיוּחַ העובדה שאנתרופיק רוצה למכור אותו רק לחברות הגדולות ביותר.
עם זאת, ראוי לציין שהצעת החברה מבוססת על ממצאי המכון האנתרופי, חטיבת מחקר שהקימה במרץ. אנתרופיק אמרה אז שתפקידו של המכון הוא "לספר לעולם" מה הוא לומד על האתגרים שעולים כשחברות בינה מלאכותית מפתחות מערכות בינה מלאכותית מתקדמות יותר. המכון, יחד עם משתפי הפעולה, יערכו מחקר על מה שצריך כדי "לבנות את המערכות שהאטה או הפסקה אמינה תדרוש".
אם חברות בינה מלאכותית מסכימות להאטה, יש להפעיל מנגנונים כדי לוודא שכולן באמת עצרו או האטו את התפתחות הבינה המלאכותית. אחרת, חלקם יכולים לקפוץ לפני השאר לאחר שפיתחו את הטכנולוגיה שלהם בסתר. "האטה או הפסקה משמעותית תדרוש מספר רב של מעבדות בעלות משאבים טובים על הגבול או בסמוך לה, במספר מדינות, להסכים להפסיק באותם תנאים", כותב אנתרופיק. "זה ידרוש גם שכל אחד יוכל לוודא שהאחרים אכן הפסיקו."
ההצעה שלה תתרחש רק אם כל חברות הבינה המלאכותית ברחבי העולם יוכלו להתאגד ולהתחייב לעצור את פיתוח הבינה המלאכותית לזמן מה. אנתרופיק אומר שזה לא בלתי אפשרי, ומציין אמנות נשק גרעיני כדוגמה, אם כי היא מודה שההסכמים הללו היו בהכנה של עשרות שנים. אין לנו כל כך הרבה זמן, מכיוון שפיתוח AI מתקדם בקצב מהיר. החברה מתכננת לנהל שיחות עם קובעי מדיניות, חוקרים וחברות AI אחרות במהלך החודשים הקרובים בנושא זה ותפרסם את תוצאות השיחות הללו.