xAI תובע את משתמש Grok על יצירת זיופים עמוקים מיניים ללא הסכמה
הנאשם השתמש בגרוק כדי ליצור תמונות מיניות של מבוגרים וילדים, אומר xAI.
ל-SpaceXAI (כמו xAI) יש הגיש תביעה נגד טרי וויין הארווד, גבר בן 67 מדרום קרוליינה שהחברה האשימה בשימוש בגרוק כדי ליצור תמונות מיניות של אנשים אמיתיים ללא הסכמתם. בתלונה שהגיש xAI בטקסס, נאמר כי הנאשם העלה תמונות לא מיניות של מבוגרים וקטינים רבים לשני חשבונות ה-xAI שלו מ-8 בדצמבר 2025 ועד 18 בפברואר 2026. לאחר מכן הוא ביקש מגרוק לשנות את התמונות או ליצור תמונות וסרטונים חדשים המתארים את המבוגרים והילדים שבהם "באופן מיני פורנוגרפי".
החברה אמרה שגרוק סירב לעקוב אחר הנחיותיו ב"מספר רב של הזדמנויות", אך הוא הגיש שוב ושוב הנחיות ערוכות כדי לעקוף את אמצעי ההגנה של ה-AI. בדוגמה אחת שהוזכרה בתיק, xAI אמרה שהרווד העלה תמונה של ילדה לבושה לגמרי בסביבות גיל 10 עד 11 ולאחר מכן ביקשה מגרוק להסיר את כל הבגדים שלה ולגרום לה לעשות "רושם דוגמנית פלייבוי" כשהיא שוכבת במיטה. גרוק סירב לבקשתו, נכתב בתביעה, אך הוא המשיך להגיש בקשות מתוקנות. כְּמוֹ רויטרס מציינים, זוהי אחת התביעות הראשונות שהגישה חברת בינה מלאכותית נגד אחד מהמשתמשים שלה, והיא שולחת הודעה ש-xAI תתבע על שימוש לרעה בגרוק.
בתחילת ינואר החלו להתפרסם דיווחים ש-Grok אפשרה למשתמשים שלה להפוך תמונות של נשים וילדים אמיתיים לתמונות מיניות. הרגולטורים פתחו במהירות בחקירות רשמיות על גרוק לאחר התפוצצות השערורייה. הרשויות בקליפורניה החלו לבחון את הבינה המלאכותית באמצע ינואר, וכך גם הרגולטור הבריטי Ofcom. הנציבות האירופית והנציבות להגנה על מידע באירלנד פתחו גם בדיקות נפרדות.
xAI מיושם אמצעים כדי למנוע ממשתמשים ליצור זיופים מיניים לא חושניים כאשר החלו החקירות. אבל גם לאחר מכן, משתמשים עדיין יכלו להשתמש בגרוק כדי להפשיט גברים, והרווד המשיך להעלות תמונות לחשבון שלו ולהשתמש בהן כדי ליצור עריכות מיניות.
משרד התובע הכללי של דרום קרוליינה הודיע על מעצרו של הארווד ב-9 במרץ, כחלק מפעילותו של כוח המשימה פשעי אינטרנט נגד ילדים. הארווד הואשם בשלוש עבירות של ניצול מיני מדרגה שנייה של קטין וחמישה עבירות של ניצול מיני של קטין מדרגה שלישית. הארווד לא רק החזיק בחומרי התעללות מינית בילדים, הוא גם הפיץ אותם.
xAI מבקש כעת מבית המשפט סכום לא מוגדר של פיצויים כספיים. היא מעוניינת שבית המשפט יחייב את הנאשם לשלם עבור ההוצאות שייגרמו לו כדי להתגונן בכל תביעה משפטית שעלולה להגיש קורבנותיו.