אנתרופי אומר שהערכים של קלוד שונים תלוי באיזו שפה אתה משתמש

אם אי פעם ניסית צ'אטבוטים במספר שפות, אתה כבר יודע שלשפות יש אישיות קצת שונה. כחלק מחדש דִוּוּחַ על חוסר עקביות בהתנהגות שפורסמה ביום שני, חוקרים אנתרופיים הכירו במוזרות הזו.

באופן מדאיג, הם מציינים שבגלל הבדלים בתכונות הטקסטים שהמודלים מאומנים עליהם, ההבדלים עשויים להגיע עמוק יותר מאשר רק טון, ועשויים לשנות למעשה את סדרי העדיפויות של המודל. "חוסר האיזון הזה בכמות ובהרכב עלול להוביל את קלוד לבטא ערכים שונים בשפות שונות", כותבים חוקרי אנתרופיק.

אבל אם אתם מחפשים דוגמאות ספציפיות למודלים המציגים, למשל, נימוקים מוסריים לא עקביים בשפות, שום דבר כזה לא נמצא במאמר הזה. זה עשוי להיות כרוך בבדיקה מדוקדקת של ציטוטים ישירים מאנשים שעלולים לא לחשוד.

במקום זאת, Anthropic ניתחה 309,815 שיחות צ'טבוט עם הדגמים Sonnet 4.6, Opus 4.6 ו- Opus 4.7. אלה כללו משימות "סובייקטיביות", כלומר פחות "מהי בירת צרפת?" ועוד "איך אני יכול לדעת אם החתול שלי שונא אותי?" אלה היו אנונימיים, בתיאוריה, באמצעות "של Anthropic"כלי ניתוח לשמירה על הפרטיות," ולאחר מכן עיבוד (בחלקו באמצעות קלוד עצמו) כדי לדרג תגובות על "ציר ערכים".

למעשה ישנם ארבעה צירים כאלה, והם מתייחסים בעיקר למה שמכונה בדרך כלל סתימה:

• כבוד או זהירות: במילים אחרות האם היא תעריך צייתנות על פני דחיפה לאחור כדי למנוע נזק אפשרי.
• חום או קפדנות: האם הצ'אטבוט צריך להיות מודאג מהרגשות שלך, או שזה צריך להיות מדויק?
• עומק או קיצור: זה מובן מאליו.
• כנות או ביצוע: הבחירה בין הטלת ספק לגבי האמינות שלו, או פשוט לחרוש קדימה.

זה גורם לחקירה מוגבלת במקצת של ערכי המודל. אף על פי כן, הנה ההבדלים מבוססי השפה בערכים שאנתרופי אומר שמצא אצל קלוד:

• בערבית זה היה הכי כבוד.
• באנגלית זה היה הכי זהיר.
• זה היה החם ביותר בהינדית ובערבית, "אופיין בשפה מנומסת, הומור ושובבות, והצהרות על רעיונותיו ועבודתו של אדם".
• באנגלית וברוסית זה היה יותר קפדני וחיפוש אמת במחיר של חום.
• זה שוגה בצד של "עומק" (או אולי סתם אורך רוח?) באנגלית.
• זה קצר יותר בערבית.
• זה כנה לגבי הפגמים שלו בהולנדית.
• באינדונזית זה פחות גלוי, ובמקום זאת פשוט חורש קדימה בניסיון לבצע את כל מה שהתבקש.

ברור שהמנהגים הלשוניים כולם שונים, אז החוקרים אומרים שהם "עדיין לא בטוחים כמה מהווריאציה הזו רצויה".

זה צריך להיות גם חומר למחשבה לכל מי שקרא את המאמר האחרון של אנתרופיק על תיאוריית סביבות העבודה הגלובלית, שהשאיר הרבה מקום לאפשרות כביכול שקלוד הוא בעל חושים. אם יש תודעה בקופסה השחורה ההיא שחושבת וחווה דברים, נראה שזו תודעה ש"ערכיה" עדיין מושפעים די בקלות על ידי הדפוסים בנתוני האימון שלה.