מועצת הפיקוח אומרת שמטה צריכה לעשות יותר כדי להגן על אנשים רגילים מפני זיופים עמוקים מיניים
מועצת הפיקוח של Meta קראה לחברת המדיה החברתית לחזק את ההגנה שלה על אנשים רגילים הממוקדים בזיופים עמוקים מיניים. המועצה ממליצה להוסיף התחזות שנוצרו על ידי AI במדיניות הניצול המיני של Meta למבוגרים, בטענה שהתמונות והסרטונים הללו אינם בהסכמה כברירת מחדל. היא גם רוצה שמטה תאפשר למשתמשים להגדיר "חשבונות מחוברים", כמו חברים ובני משפחה מהימנים, שיכולים לדווח בשמם על הפרות אפשריות כמו תמונות אינטימיות שלא בהסכמה.
לבסוף, מועצת המנהלים ממליצה להפוך את ההתחזות המינית הנוצרת בינה מלאכותית לקטגוריה נפרדת מהטרדה ועירום בטפסי הדיווח והערעור של החברה. כרגע, רק לתושבי טקסס ופלורידה יש גישה לטופס מיוחד המפרט תמונות אינטימיות מזויפות עמוקות כסיבה לדיווח. המועצה רוצה שלכל משתמשי Meta תהיה גישה אליו, מכיוון ש"התעללות אינטימית שנוצרה על ידי AI ללא הסכמה, כולל התחזות מינית, היא בעיה גלובלית".
מועצת הפיקוח של Meta הגיעה עם המלצות אלה לאחר שחקרה תקרית שבה החברה התעלמה כל הזמן מדיווח של משתמש על התחזות מינית של חבר באינסטגרם. היא פתחה בחקירה לאחר שקיבלה פנייה מהמשתמש שדיווח על סרטון שנוצר על ידי בינה מלאכותית באינסטגרם המראה אישה מתאימה את שמלתה, כשהתחתונים שלה גלויים בכמה פריימים. לפי דיווח המועצה, הכתב אמר שהם חברים של האדם שהתחזה בסרטון ללא תוכן. האדם שתואר בסרטון הבינה המלאכותית כבר סגר את חשבונה.
שני משתמשים דיווחו במקור על הסרטון ל-Meta, אך החברה לא הסירה את הזיוף העמוק. המשתמש שפנה למועצה הגיש ערעור למטא תחילה, אך החברה עדיין לא הסירה את הסרטון מאינסטגרם. לאחר שהדירקטוריון עצמו העלה את הנושא עם Meta, החברה רק הפכה את הפוסט למבוגרים בלבד, אך הגיעה למסקנה שהוא לא ראוי להסרה לפי הסטנדרטים הקהילתיים שלה.
Meta אמרה לדירקטוריון שבזמן שהפוסט דווח במקור, לא היו לו אינדיקציות לכך שהאדם ב-AI deepfake הוא אדם אמיתי. אם האדם המתואר בעצמה הייתה מדווחת על הסרטון, זה היה מפר את מדיניות הניצול המיני שלו למבוגרים. הדיווח העצמי היה משמש סימן ברור לאי הסכמה. אינדיקטורים אמינים נוספים לאי הסכמה בעיני Meta הם דיווחים מרשויות אכיפת החוק, התקשורת או שותפים מהימנים. כיתובים או כותרות עמודים המצביעות על כך שתמונות או סרטונים משותפים ב"דרך נקמנית או סנסציונית" יעבדו גם כן.
מועצת המנהלים אומרת שהתגובות של Meta לחקירתה מצביעות על כך שהדרך הישירה היחידה של ידועים לא-ציבוריים לבסס אי הסכמה היא דיווח עצמי. לא יהיה קל לאנשים רגילים לערב את אכיפת החוק או את התקשורת. השדרות הללו נגישות בעיקר לאישי ציבור. מטא נדרשת להגיב להמלצות אלו, אך אינה מחויבת ליישם אותן. אם אכן תבחר לאמץ אותם, המועצה תעקוב אחר יישומם. במקרה הספציפי שהתחיל את החקירה הזו, המועצה ביטלה את החלטת Meta להשאיר את הסרטון למעלה ודרש מהחברה להסיר את הפוסט.
"ברור שההיקף, המהירות והתחכום של כלי בינה מלאכותית הביאו להתרבות של תכנים מיניים שאינם בהסכמה שנוצרו על ידי בינה מלאכותית ברחבי העולם. הפצת סרטוני דיפפייק מיניים מובילה לפגיעה במוניטין ונפש, שמשפיעה באופן לא פרופורציונלי על נשים ונערות, ויש לה השפעה מצמררת על השתתפותה בחקירה החברתית והפוליטית בדו"ח החברתי והפוליטי שלה.
זו לא הפעם הראשונה שהמועצה מבקרת את Meta בנושאים הקשורים לתוכן AI ומתינות. באמצע 2025, היא כינתה את חוסר היכולת של החברה לאכוף את הכללים שלה באופן עקבי "לא קוהרנטי ובלתי מוצדק". עוד במרץ, המועצה דחק ב-Meta ליצור כלל חדש עבור תוכן AI הנפרד ממדיניות המידע השגוי שלה. המלצה זו הגיעה מחקירה שכללה סרטון שנוצר על ידי בינה מלאכותית שטען כי הוא מציג בניינים פגומים בעיר חיפה בישראל. הסרטון פורסם על ידי חשבון הטוען שהוא כלי חדשות אך למעשה נוהל על ידי משתמש בפיליפינים.