חזרה אנתרופית למדיניות ש'חיבלה' בעבודתם של חוקרים
זה לא היה נראה טוב עבור חברה שמתגאה בעבודה הדוק עם הקהילה האקדמית.
חברת אנתרופיק חוזרת על מדיניות שפגעה באורח דיסקרטי בחוקרים באמצעות קלוד פייבל 5 LLM החדש שלה כדי ליצור דגמי AI מתחרים, אמרה החברה חוטי. "אנחנו משנים את אמצעי ההגנה של Fable 5 לפיתוח LLM בחזית כדי להפוך אותם לגלויים", אמרה החברה בהצהרה. "עשינו את ההחלפה השגויה ואנחנו מתנצלים על כך שלא הגענו למאזן נכון".
כשאנתרופיק הוציאה את קלוד פייבל 5, דגם חדש המבוסס על מערכת Mythos החזקה שלו, החוקרים ציינו משהו מוזר. הם גילו ש-Fable 5 ינתב בשקט בקשות למודל פחות כשיתבקש לבצע פעולות מסוימות. יתרה מכך, הגבלה זו לא נחשפה בתיעוד של המודל.
המודל החדש היה סירוב או משפיל תגובות למשימות כמו אימון LLMs מתחרים, ניפוי קוד AI ואופטימיזציה של ארכיטקטורת עצבים. החוקרים הוטרדו לא רק מהשפלה זו, אלא גם מחוסר השקיפות של אנתרופי לגביה. הם גם חששו, כמובן, מכך ששרפו אסימונים וכסף עבור דגם שלא עשה את מה שהם ציפו.
Anthropic ציירה את עצמה כאלטרנטיבה אתית וידידותית יותר לחוקרים ל-OpenAI, כך שהפעולות שלה עם Fable 5 יצרו תגובה מהירה. "ביצועים משפילים במחקר ML *מבלי לספר למשתמש* הם עוינים להחריד ומראה נורא", אמר עמית המחקר ומחבר Substack דין וו. בול ב-X.
Anthropic לא הופכת את מדיניות ההגנה שלה על Fable 5, אלא הופכת את ההגבלות לגלויות למשתמשים. "אם החברה חושדת שמשתמש מנסה להשתמש בקלוד כדי לבנות AI בעל יכולת גבוהה, היא תתריע בפניהם שהוא מסרב לבקשה, או מפנה את המשתמש לדגם פחות מסוגל". חוטי כתב.