מטה תתריע בפני ההורים אם בני הנוער שלהם ידברו על פגיעה עצמית

Meta מרחיבה את אמצעי ההגנה שלה עבור משתמשים בני נוער במאמץ להראות להורים, ואולי לרגולטורים, שהפלטפורמות שלה בטוחות עבורם לשימוש. כמה חודשים אחרי שזה התחיל להראות לאפוטרופוסים את נושאי שיחות הבינה המלאכותית של בני הנוער שלהם, Meta הוצג תכונת הגנה בטיחותית חדשה שגם תודיע להם אם הצ'אטים של ילדיהם מראים שהם שוקלים פגיעה עצמית או התאבדות.

כאשר משתמש קטין מדבר על התאבדות או פגיעה עצמית, Meta AI כבר מפנה אותו למוקדי סיוע למשבר ומעודדים אותם לפנות למבוגר שיכול לעזור. החל מהיום, החברה גם תודיע באופן יזום להורים או לאפוטרופוסים המפקחים על הנער שהם נמצאים בסיכון. זה ישתף משאבים ועצות לגבי מה הם יכולים לעשות למען ילדיהם.

Meta אומרת שהיא בנתה מערכת AI ייעודית לזיהוי השיחות הללו, אבל היא תבדוק ידנית את כל הצ'אטים שסומנו על ידי ה-AI לפני שהיא שולחת התראה על מנת לא לגרום לפאניקה כאשר אין סיבה אמיתית לכך. עם זאת, הוא יטעה בזהירות וישלח את ההודעה גם אם כוונת המשתמש המתבגר נראית מעורפלת בעיני המבקר האנושי. תכונה זו פעילה כעת עבור הורים המשתמשים בפיקוח הורים באינסטגרם בארה"ב, בריטניה, אוסטרליה וקנדה. זה יהיה זמין לכל המשתמשים בהשגחת הורים ברחבי העולם עד סוף השנה.

החברה גם עובדת על בניית היכולת ליצור קשר עם שירותי חירום אם משיחה של משתמש עם Meta AI עולה כי הוא עלול להיות בסיכון מיידי לקחת את חייו, בין אם הם קטין או מבוגר. במאי, OpenAI הוציאה תכונה שמתכוונת גם לטפל בפגיעה עצמית. זה נקרא Trusted Contact עבור ChatGPT, זה מאפשר למשתמשים להציע חבר שהחברה יכולה לפנות אליו אם הם בסיכון לפגוע בעצמם.

לבסוף, הגדרת התוכן המוגבלת של Meta חלה כעת גם על אינטראקציות של Meta AI. אם הורה הפעיל תוכן מוגבל באינסטגרם, המסנן תוכן עם נושאים רגישים כמו חזותיים בוגרים ופגיעה עצמית, גם האינטראקציות בינה מלאכותיות של ילדיו יהיו מוגבלות יותר.

אם אתה או מישהו שאתה מכיר חווה מחשבות אובדניות, אל תהסס לפנות לקו ההצלה הלאומי למניעת התאבדות בטלפון 1-800-273-8255. הקו פתוח 24/7 ויש גם צ'אט מקוון אם אין טלפון זמין.