אל תפחד מ-AI המשתפר בעצמו, אומר הסטארט-אפ מגוב a16z Mirendil
לפי מאמינים אמיתיים רבים, ההבטחה הגדולה ביותר של AI היא הפוטנציאל שלה להאיץ את הגילוי המדעי; פריצות דרך של פעם בדור יכולות להפוך יום אחד לשגרה, הודות לאלגוריתמים. על ידי חילוץ דפוסים ממגוון נתונים נרחבים מכדי שכל מוח אנושי יוכל להבין, כך הלכה החשיבה, מדעני בינה מלאכותית יוכלו בסופו של דבר לעזור לפתור כמה מהבעיות הטכניות הקשות ביותר של האנושות: שינויי אקלים, סרטן, אפילו – על פי טרנס-הומניסטים מושבעים – המוות עצמו.
אבל המדע הוא מיזם במקורות המונים, התלוי בקהילה גלובלית של חוקרים שיכולים לגשת באופן חופשי ולבנות את עבודתו של זה. תעשיית הבינה המלאכותית, לעומת זאת, נשלטת כיום על ידי קומץ מעבדות מחקר שהקוד הקנייני שלהן סגור זו מזו ומהעולם הרחב.
סטארט-אפ צומח במהירות בשם Mirendil מקווה כעת לגשר על הפער הזה בין גילוי מדעי לגישה גבולית ל-AI.
החברה גייסה לאחרונה 200 דולר במימון ראשונימה שמביא את השווי הכולל שלה למיליארד דולר. המימון ניתן על ידי חברות הון סיכון Andreessen Horowitz ו-Kleiner Perkins, כמו גם על ידי Nvidia. מבוסס במרכז העיר סן פרנסיסקו, יש כיום צוות טכני של כעשרים חוקרים. האתר שלה כולל מספר פרסומי דרושים עם משכורות התחלתיות של עד 500,000 דולר.
הסטארט-אפ – שפירוש שמו הוא "חבר של דברים יקרים" באלווית, ומוסיף לרשימה הולכת וגדלה של חברות טכנולוגיה שמות בהשראת שר הטבעות— יצאה לדרך לבנות משהו שהיה מזמן מטרה טכנית מבוקשת, ולעתים מקור לחרדה, בתוך עמק הסיליקון: בינה מלאכותית שיכולה לבנות גרסאות יכולות יותר ויותר של עצמה, תהליך המכונה במעגלי הטכנולוגיה שיפור עצמי רקורסיבי.
לכל האלגוריתמים של AI ולמידת מכונה יש יכולת מסוימת לשיפור עצמי, מכיוון שהם מאומנים ללמוד מהטעויות שלהם לאורך זמן ולהתאים את התפוקות שלהם בהתאם. אבל כמה מהדגמים העדכניים והמתקדמים ביותר לקחו את התהליך הזה לרמה חדשה על ידי החלפתם של מהנדסי תוכנה אנושיים ותיקון חלק ניכר מהקוד שהוא פועל עליו. זה מצביע על עתיד אפשרי שבו כל גרסה חדשה של דגם בונה את היורש שלה, לולאת משוב שיכולה להכניס אותנו לאוטופיה שלאחר מחסור או לנוף גיהנום הנשלט על ידי אדוני בינה מלאכותית סופר אינטליגנטית, תלוי את מי שואלים.
אפילו Anthropic ו-OpenAI, שני המובילים הנוכחיים במירוץ ה-AI, קראו בפומבי להקים ועדת פיקוח עולמית כדי לעקוב אחר AI המשתפר באופן רקורסיבי, ואם יהיה צורך אי פעם, לאכוף (איכשהו) האטה חד-צדדית כדי למנוע מבני אדם לאבד שליטה. שניים ממייסדי מירנדיל, בהנם ניישאבור והרש מהטה, עבדו בעבר באנתרופיק; הם עזבו את החברה בינואר.
מיקרוסופט, בינתיים, מנסה להפוך את המגמה של שיפור עצמי רקורסיבי לקידום מכירות עבור AI ארגוני. ב פוסט X מוקדם יותר החודש, מנכ"ל החברה, סאטיה נאדלה, כתב כי "מערכות אגנטיות המשתפרות עם הזמן" עשויות להפוך בקרוב לנכס חשוב לעסקים. "אני חושב על זה כעל מכונת טיפוס על גבעות", כתב.
Fable 5 של Anthropic, שפורסם בפומבי בתחילת החודש, רק כדי להיסגר במהירות בתגובה להוראה מממשל טראמפ, מגיע עם מעקות בטיחות שמונעים ממנו להגיב לשאילתות בנושאים שעלולים להיות מסוכנים כמו אבטחת סייבר וכימיה. עם זאת, ההגבלות שלו היו כה מחמירות, שלעתים קרובות היא מסרבת לעסוק בשאלות מחקר מדעיות לא מזיקות.
מירנדיל מאמין שהבעיה אינה בינה מלאכותית המשתפרת באופן רקורסיבי, אלא העובדה שהגישה ליכולות גבול שכאלו נעוצות כיום על ידי מספר קטן של מעבדות עם כיסים עמוקים, כמו המעסיק לשעבר של ניישאבור ומטה. לכן החברה יוצאת לדרך לבנות מערכות בינה מלאכותית המשפרות את עצמה במיוחד עבור מפתחי קוד פתוח.
"היום, כל מעבדה שמנסה להשתמש בבינה מלאכותית בגילוי תרופות, כימיה, ביולוגיה או רובוטיקה חייבת להפוך גם למעבדת בינה מלאכותית גבולית", כותבת מירנדיל. אֲתַר אִינטֶרנֶט. "המטרה שלנו היא לעשות דמוקרטיזציה של מחקר ופיתוח בינה מלאכותית ולהפוך אותו לנגיש באופן נרחב. העבודה שלנו תאיץ כל מאמץ מדעי וטכנולוגי התלוי בבינה מלאכותית".
הרעיון, במילים אחרות, הוא להעביר בינה מלאכותית המשתפרת עצמית רקורסיבית ברמת הגבולות לידיים של כמה שיותר מעבדות עצמאיות, כשהמטרה הסופית היא להטעין את ההתקדמות המדעית. "הדרך הישירה ביותר לבגרות ולהשפעה מסיבית עבור תעשיית הבינה המלאכותית היא לתת למהנדסים ולחוקרים מחוץ למעבדות לעשות עבודת בינה מלאכותית אמיתית, כלומר לדחוף את הגבול בתחומי המומחיות שלהם", כתבה אנדריסן הורוביץ בהשקעתה במירנדיל. הַכרָזָה. "קוראים לזה מחקר אווירה."