OpenAI תתחיל להודיע להורים אם העשרה שלהם הודח מ-ChatGPT
הורים עם חשבונות נוער מקושרים יידעו אם ילדיהם הפרו את המדיניות של OpenAI בנושא אלימות.
OpenAI יעשה זאת כעת לְהוֹדִיעַ הורים ואפוטרופוסים עם חשבונות מקושרים אם ילדם הודח מ-ChatGPT בגלל הפרת המדיניות שלו לגבי איומים אלימים או מעשי אלימות באינטרנט. החברה השיקה בקרת הורים עבור ChatGPT בשנה שעברה, המאפשרת להורים לקשר את החשבונות האישיים שלהם לחשבונות של ילדיהם המתבגרים. זה מאפשר להם לתזמן שעות בהן לא ניתן להשתמש ב-ChatGPT ולהפחית תוכן רגיש, והוא יודיע להם אם הצ'אטבוט יזהה סימנים לכך שילדם חושב להזיק לעצמו. כעת, OpenAI הרחיבה את ההתראות שלה כדי ליידע את ההורים אם ילדם עלול להוות סכנה לאחרים.
בדוגמה שהחברה פרסמה, OpenAI שלחה להורה התראה לגבי "עדכון חשוב" לגבי החשבון של ילדם. משם, הם יכולים ללחוץ על מידע נוסף כדי לראות הודעה ארוכה יותר, שמספרת להם שהחשבון של הילד שלהם הושבת בשל הפרת מדיניות השימוש שלו הקשורה למעשי אלימות.
החברה עבדה עם Moonshot, חברה המתמחה בניטור ומניעת אלימות מקוונת, כדי לפתח תכונה זו. "הודעה להורה כאשר מתעוררת דאגה רצינית, עם מסלול ליותר הקשר, היא צעד ראשון קריטי במתן הזדמנות למשפחות להתערב מוקדם ולבקש עזרה", אמר מייסד Moonshot Vidhya Ramalingam. "סוג זה של גישה הוא אחד מאמצעים רבים שיידרשו כדי לשמור על בטיחות צעירים בזמן השימוש ב-ChatGPT."
OpenAI נשבעה לחזק את פרוטוקולי הבטיחות שלה לאחר שהתגלה כי החשוד בירי המוני ב-2025 Tumbler Ridge, קולומביה הבריטית השתמש ב-ChatGPT. הרשויות בקנדה זימנו את החברה לאחר שהתפרסמו דיווחים כי היא לא הודיעה לרשויות כאשר היא אסרה את החשבון של היורה. ראש OpenAI, סם אלטמן, אפילו התנצל על הפיקוח.
בנוסף להשקת ההודעה החדשה, OpenAI הציגה גם את היכולת להפעיל את מצב הלימוד ישירות מבקרת הורים. המצב מאפשר ל-ChatGPT לתת רמזים לפני מענה על שאלות כדי לעזור לתלמידים ללמוד וללמוד. בנוסף, הצ'אטבוט יראה כעת למשתמשים בני נוער שמבלים זמן ממושך ב-ChatGPT תזכורות להפסקות תכופות יותר כדי לעזור להם ליצור הרגלים טכניים בריאים יותר.