תכונת Grok הפופולרית ביותר היא, ככל הנראה, בדיוק מה שאתה חושב
השימושים של NSFW מהווים "הרבה יותר ממחצית" מהתנועה, אומר דוח חדש.
xAI קידמה זה מכבר את Grok כסוג של צ'טבוט גזען יותר עם פחות מעקות בטיחות של חברות בינה מלאכותית אחרות. ראינו את זה מתרחש בכמה דרכים הרות אסון במהלך השנה האחרונה, אבל אנחנו משיגים עכשיו קצת תובנה למה החברה נטתה כל כך חזק לאסטרטגיה הזו למרות כמה אסונות יחסי ציבור אמיתיים.
מתברר שפעילויות NSFW מהוות "הרבה יותר ממחצית" מהתנועה של גרוק, לפי דוח חדש ב המידע שמצטט שני עובדים לשעבר של החברה בבעלות SpaceX. זה כולל שימוש בגרוק ליצירת פורנו אמיתי, כמו גם "צ'אטים של משחק תפקידים למבוגרים" ו"כמויות עצומות של בקשות לארוטיקה".
המשתמשים של Grok אף גילו ככל הנראה כי זול יותר לתעל בקשות מסוג זה דרך מודלים של החברה המיועדים לכתיבת קוד כי אלו זולים יותר לשימוש. הדו"ח אומר כי ניתוח פנימי מצא כי "חלק ניכר מהבקשות" למודל הקידוד שלו היו ל"תמונות פורנו או עירום". כל זה מצביע על כך ש-SpaceX יכולה לייחס כמות הגונה של הכנסות xAI לפורנו ולתוכן למבוגרים. למרות שהתפקיד של חומר NSFW בשורה התחתונה של החברה הושמט איכשהו מניירת ההנפקה של החברה, SpaceX אמרה למשקיעים פוטנציאליים שהתכונות היותר "חסרות כבוד" של גרוק מהוות סיכון פוטנציאלי. היא אמרה שיש לה 530 מיליון דולר כדי להתמודד עם עלויות משפטיות אפשריות.
הדו"ח גם מפרט כמה מהדרכים שבהן זה סיבך דברים בתוך חברת AI. ראשית, מהנדסי xAI היו צריכים להבין כיצד לאפשר ל-Grok לנהל צ'אטים סקסיים עם משתמשים תוך חסימת כל הנחיה שעלולה לעלות לחומר של התעללות מינית בילדים. (ככל הנראה לא היו "תיקונים מהירים" לדילמה).
חלק מהעובדים גם לא התרגשו מההקצאה לעבוד על "אני", שותפה לאוואטר בהשראת האנימה NSFW של גרוק. על פי הדיווחים, אחרים היו "נבוכים ומוטרדים" מהשערורייה שהתפתחה לאחר שגרוק יצר חבורה של תמונות מיניות של אנשים אמיתיים, כולל ילדים. מאוחר יותר, X הגביל את היכולת ליצור עריכות מהירות מתוך תמונות של אנשים אמיתיים המשתמשים בגרוק ישירות בפלטפורמה, אבל מנויים בתשלום ל-xAI עדיין יכולים ליצור חומר כזה, מבחנים יש נמצא.
ישנם אתגרים פוטנציאליים נוספים שעלולים לנבוע מההתמקדות של גרוק בחומר בעל דירוג R. xAI רדפה באגרסיביות אחר חוזים ממשלתיים וחתמה עסקאות עם סוכנויות שונות ועם הצבא, מוסדות שבדרך כלל אתה עשוי לצפות שיש להם סובלנות נמוכה מאוד לכל דבר מרוחק NSFW. אבל בעוד שההתערבות הקודמת של גרוק לזיופים עמוקים ללא הסכמה ו-CSAM עוררו תביעות וחקירות רבות, לא ברור אם לאירועים הללו הייתה השפעה כלשהי על מערכת היחסים שלו עם הממשל הפדרלי.