אפל וגוגל הורו על ידי עורך דין סן פרנסיסקו לנקוט בפעולה נגד אפליקציות 'עירום'

לאפל וגוגל נשלחו מכתבי הפסקה והפסקה הדורשים מהן להסיר אפליקציות "nudify" המופעלות על ידי בינה מלאכותית מחנויות האפליקציות שלהן.

כפי שדווח על ידי חוטיעורך הדין העירוני של סן פרנסיסקו דייוויד צ'יו הורה לשתי ענקיות הטכנולוגיה להסיר סך של 13 אפליקציות שניתן להשתמש בהן כדי ליצור תמונות עירום מזויפות עמוקות שנוצרו בינה מלאכותית. המכתבים פונים לאפל ולגוגל להפסיק "לעזור" להפצת תמונות אינטימיות ללא הסכמה, ולבקש מהן להפסיק לעבוד עם מפתחי האפליקציות המדוברות.

זו לא הפעם הראשונה שצ'יו לוקח על עצמו פלטפורמות Deepfake, לאחר שהגיש בעבר א תְבִיעָה מִשׁפָּטִית נגד 16 אתרים המאפשרים למשתמשים להפוך תמונות של נשים ונערות אמיתיות לפורנוגרפיה באמצעות AI. הוא סיפר חוטי שאפל וגוגל ככל הנראה הרוויחו מיליונים מתשלומים בתוך האפליקציה מהאפליקציות הפוגעניות, ושהחנויות שלהן זקוקות למתון טוב יותר כדי להבטיח שהן לא יאושרו.

למרות סערה ציבורית רחבה על זיופים עמוקים, זה התברר מוקדם יותר השנה, באמצעות א דִוּוּחַ מִן פרויקט השקיפות הטכנית (TTP)שיישומי ניוד עברו לעתים קרובות את המנחים של אפל וגוגל. וזה הרחיק עוד יותר, בטענה שחלק מהן אפילו קודמו באופן פעיל ב-App Store וב-Google Play. הדו"ח גם טען שרבות מהאפליקציות האלה דורגו "E" עבור כולם, מה שמאפשר לילדים להוריד אותן. מציאת האפליקציות, לטענתה, היא פשוטה כמו חיפוש אחר מונחים כמו "עירום" או "להתפשט". זאת למרות שלשתי החברות יש מדיניות האוסרת חומר מיני או פורנוגרפי בפלטפורמות שלהן.

גוגל ואפל אינן החברות היחידות שנאבקות עם ריבוי הזיופים העמוקים ברשת. מועצת הפיקוח של Meta קראה לאחרונה לחברה לחזק את ההגנות שלה על אנשים רגילים שאליהם מתמקדים, כאשר צעדי המניעה הקיימים ייטיבו לכאורה עם אישי ציבור. ה-xAI של אילון מאסק היה גם נושא למספר תביעות משפטיות הנוגעות לזיופים עמוקים ללא הסכמה.

כך אמר דובר גוגל חוטי שהחברה מחקה "מאות" אפליקציות עם תכונות ניודיפיקציה, חמש מהן הוזעקו להן על ידי צ'יו. היא גם חזרה והדגישה כי המדיניות שלה אוסרת על תוכן מיני ואמרה שהיא נוקטת "פעולה מהירה" אם אפליקציה מדווחת מתגלה כמפרה את הכללים שלה. חוטי הוסיפה כי אפל לא סיפקה תגובה לפני הפרסום.