הדיסקורד מאושר, משעה אנשים בגלל תמונות שפירות
אנשים סבירים יכולים לחלוק על מה מתאים ומה לא מתאים, אבל מערכת הניהול האוטומטית של Discord החליטה למתוח קו קשה מאוד מוזר: ללא רשתות.
לפי א דיווח מ-The Vergeמערכת הבטיחות של דיסקורד אסרה בטעות מעל 8,000 משתמשים עבור תמונות של דברים כמו לוחות שחמט ומלאי מיינקראפט – בעיה שהחברה האשימה בבאג.
ככל הנראה הבעיה פוגעת במשתמשי דיסקורד לפחות מאז מאי, ולבסוף קיבלה את תשומת לב החברה לאחר כ 200 משתמשים נחסמו בסוף שבוע אחד לתמונות דמויות רשת. משתמש אחד נִתבָּע החשבון שלהם סומן בשל פרסום לכאורה של חומר התעללות מינית בילדים (CSAM), מה שהביא להשעיה לצמיתות. במציאות, המשתמש פרסם צילום מסך מ-Minecraft.
בתגובה לאירוע, דיסקורד ניסה להסביר מה קרה. ב א סדרת פוסטים ב-Xהחברה פירטה כיצד המערכת האוטומטית שלה מתוכננת לסמן תוכן על ידי התאמתו לחומר מזיק ידוע. התאמות אלו אמורות להיבדק על ידי צוות האמון והבטיחות לפני שננקטת כל פעולה נגד חשבון משתמש. עם זאת, "באג" במערכת ככל הנראה מנע מהמשתמשים המושפעים לקבל את הפנקס שלהם בבדיקה אנושית ובמקום זאת נשאר אסור.
סטניסלב וישנבסקי, מייסד שותף של דיסקורד וקצין טכנולוגיה ראשי, מוּסבָּר ככל הנראה, מערכת המנחה תפסה לפחות 8,000 אנשים במלכודת חיובית-שגויה, כולם פרסמו "תמונות שפירות" שסומנו כוזב. אלה שנפגעו בוטלו מאז.
מה שמעניין בכל ההתקלה הוא שדיסקורד ווישנבסקי נראו בכוונה מתרחקים מלכנות את מערכת המנחה שלה "AI", למרות שרוב המשתמשים המעורבים לגבי המערכת התייחסו אליה ככזו. החברה פרסמה בעבר פוסטים בבלוג המפרטים כיצד הוא משתמש בלמידת מכונה לזהות ולעצור את התפשטות CSAM ודנו כיצד היא משתמש ב-AI כדי לעזור למתן תוכן משותף על פני הפלטפורמה שלה.
Discord רחוקה מלהיות החברה היחידה שמתמודדת עם התמתנות נלהבת מדי ממערכות אוטומטיות, ללא קשר לשאלה אם מדובר ב"AI טכנית" או לא. בשנה שעברה, שניהם אינסטגרם ו פייסבוק גל של איסור חשבונות לכאורה לא מוצדק פגע במשתמשים שלו, שרבים האמינו כי נובע ממערכות AI המשמשות למתן תוכן. TikTok ראה גם א עלייה באיסורים מופק על ידי מסנני התוכן האוטומטיים שלו והוא שווה לצמצם את המנחים האנושיים בעד חלופת הבינה המלאכותית. כל זה כדי לומר, התכונן להתווכח עם רובוטים לעתים קרובות יותר.