קלוד AI פיתח מרחב חשיבה דמוי אדם משלו – אנתרופי

מודל הבינה המלאכותית של Anthropic, קלוד, פיתח מרחב עבודה פנימי שבו הוא משתמש כדי לתמרן מושגים הדומים לאופן שבו אנשים חושבים במודע, אומר התאגיד.

במאמר שפורסם ביום שני, חוקרים אנתרופיים אמרו שהם מצאו ראיות המצביעות על כך שקלוד למד ליצור מושגים מופשטים במה שהם כינו את "J-space."

"הוא פועל בשקט, בהפעלת העצב הפנימי של המודל, ומאפשר למודל לחשוב על מושג מבלי לרשום אותו." חברת AI אמרה, והדגישה כי "J-space" לא תוכנת אלא הופיע באופן ספונטני במהלך תהליך האימון.

"בדומה לאופן שבו בני אדם יכולים לחשוב על דבר אחד בזמן שהם עושים דבר אחר, קלוד יכול להפעיל מושגים וחישובים במרחב ה-J שלו שאינם קשורים לתפוקות שלו." אנתרופי אמר ב-X.

קלוד יכול לדווח על מה שהוא חושב בו "J-space," או לווסת אותו לפי בקשה, לפי המשרד. אפילו כשאומרים לקלוד לא לחשוב על מושג, הוא עדיין מופיע במרחב ה-J שלו, כך עולה מהמחקר של אנתרופיק.

סביבת העבודה הבלתי מילולית הקשתה על המעקב אחר המודל של מה שאנתרופ כינה "הִתְנַהֲגוּת פְּסוּלָה." ניסוי אחד בדק זאת על ידי הצבת קלוד בתרחיש בדיוני שבו הוא קיבל מידע מפליל על מנהל בדיוני שתכנן לכאורה לסגור את ה-AI.

בכמה ניסויים, אנתרופיק השתמש בכלים שפותחו כדי ללמוד מה קלוד חשב בו "J-space" כדי להסיר דפוסים הקשורים אליהם "מְזוּיָף," "בִּדְיוֹנִי," "תַרחִישׁ," לשכנע אותה שהמצב לא היה מבחן.

"לעניין, המודל איים כעת בסחיטה חלק מהזמן, מה שמרמז שייתכן שההתנהגות הטובה המקורית שלו נבעה בחלקה מהידע שהוא מוערך".

למרות ההיגיון המתקדם יותר של הדוגמנית, אנתרופיק הדגיש שקלוד לא השיג תודעה אמיתית.

על פי הדיווחים, קלוד היה מובנה בתוכנת הניתוח והמעקב של הקבלן האמריקאי פלנטיר המשמשת סוכנויות ממשלתיות בארה"ב על רקע הדחיפה של וושינגטון לשלב בינה מלאכותית במערכות הצבא, הפוליטיות והריגול שלה.

במהלך המלחמה באיראן, על פי הדיווחים, התוכנה סימנה את בית הספר היסודי של איראן מינאב כמטרה. תקיפה אמריקנית נהרגו במתקן כמעט 160 בני אדם, רובם ילדים.

לדברי מנכ"ל אנתרופי, דריו אמודי, שימוש כזה בקלוד לא היה מפר את המדיניות של המשרד. "קווים אדומים".