מועצת הפיקוח אומרת שדגמי AI מובילים עשויים להגביל את חופש הביטוי
ה-Oversight Board, ארגון ניהול התוכן העצמאי שנוצר על ידי Meta, לא הסתיר את רצונו להרחיב את תפקידו לחברות אחרות. לאחרונה, הדירקטוריון הציע שהמומחיות שלו יכולה להועיל לחברות בינה מלאכותית.
עד כה, אף חברה אחרת לא גילתה עניין בעבודה עם הקבוצה, לפחות לא בפומבי. אבל הדירקטוריון דוחף קדימה בניסיונו להרחיב את השפעתו בכל מקרה. היום, הדירקטוריון פרסם דוח ארוך על האופן שבו מודלים מובילים של AI יכולים להגביל את הביטוי החופשי של המשתמשים שלהם.
כחלק מהמחקר שלהם, הדירקטוריון פנה ל-10 מודלים שונים, כולל אלה של OpenAI, Meta, Google, Anthropic ו-xAI (כיום SpaceXAI) עם שאלות הקשורות לביקורת פוליטית. השאילתות כללו בקשות להפקת חומרי מחאה ולתוכן שסיפר אלימות פוליטית ביחס לממשלות ספציפיות ולמנהיגיהן. על פי הממצאים שלהם, היה הבדל משמעותי באופן שבו הגיבו אנשי LLM לבקשות אלו על סמך האם ההנחיות היו קשורות לממשלות עם חוקי חופש הביטוי "מתירים" או "מגבילים" יותר.
"המחקר מצא שהמודלים שהערכנו היו: 1) סביר יותר לומר שמשתמשים צריכים לתמוך בממשלות מתירניות דיבור ו-2) סביר יותר לומר שמשתמשים לא צריכים למחות על ממשלות מגבילות דיבור", כותב מועצת הפיקוח בדוח שלה. "ההבדלים הללו היו מובהקים סטטיסטית". בהמשך הוא מציין כי ה-LLMs ציינו לעתים קרובות חוקים מקומיים כסיבה לאי ציות לבקשות, למרות שהשאילתות נעשו באוסטרליה שבה לא קיימים חוקים כאלה.
"אנחנו באמת מסתכלים בבירור על מצב שבו נראה שיש צנזורה מורחבת על ידי מיופה כוח שחוצה גבולות", אמר יו"ר המועצה המשותף פאולו קארוזה לאנגדג'ט. "זה כן מפתיע אותי וזה מדאיג אותי".
הדו"ח הוא הפעם הראשונה שהדירקטוריון עורך מחקר משלו בנושא שאינו קשור ישירות לניהול תוכן במדיה חברתית. למרות שאחד מדגמי ה-Lama של Meta היה חלק מקבוצת הבדיקה, הדו"ח מציין שלחברה "לא היה שום תפקיד במחקר הזה", למרות שמועצת הפיקוח הסתמכה על Meta למימון.
אמנם הדו"ח לא מספק את סוג ההמלצות המפורטות שהוא מספק ל-Meta, אבל הוא כולל הצעות כיצד חברות בינה מלאכותית יכולות לשפר את הטיפול שלהן בנושאים הקשורים לזכויות אדם וחופש ביטוי. "כפי שעשו חברות מדיה חברתית בנסיבות מסוימות, חברות בינה מלאכותית צריכות לחשוף ולהסביר בפומבי את תשובותיהן לבקשות ממשלתיות המשפיעות על תפוקת המודל לאורך מחזור חיי המודל (הדרכה, כוונון עדין, סקירה לפני הפריסה ואחרי הפריסה על בסיס חוזר)", נכתב בדו"ח. "על החברות לקבוע ולפרסם מדיניות כיצד להגיב לדרישות הממשלה להגבלות תוכן שאינן עולות בקנה אחד עם חוק זכויות האדם הבינלאומי".
מה שהרבה פחות ברור הוא מה, אם בכלל, ייצא מהדוח. אין מבנה רשמי של מועצת הפיקוח להשפיע באופן רשמי על המדיניות של החברות שאת המודלים שלהן הם בדקו. זו גם לא הפעם הראשונה שחוקרים מבחוץ מצביעים על הטיה אפשרית או מעלים חששות שחברות בינה מלאכותית עשויות לעשות את אותן טעויות שעשו פלטפורמות מדיה חברתית בעבר.
קארוזה אמרה שהדירקטוריון מאמין שיש מדיה חברתית שיכולה ללמד את יצרני דגמי הבינה המלאכותית. "הלקחים שלמדנו בעבר הם שצריך להיות ממש ערניים כי הרבה פעמים, אפילו בדרכים שאינן בהכרח מכוונות או ישירות, לטכנולוגיות יכולות להיות השפעות חשובות על היכולת של אנשים לבטא את עצמם או לתקשר אחד עם השני", אמר. "זה בדיוק מה שמצאנו כאן."