"הבת שלי איננה": אמא טוענת ש-ChatGPT הכשיל את משפחתה, מגישה תביעה
אזהרה: הסיפור הזה מכיל דיון על התאבדות. שיקול דעת מומלץ. אם אתה או מישהו שאתה מכיר מתקשה, עזרה זמינה. בקנדה, התקשר או שלח הודעה למספר 988 עבור קו הסיוע למשבר התאבדות. במקרה חירום, אנא התקשר למספר 911 לקבלת עזרה מיידית.
אם קנדית הגישה תביעה נגד OpenAI והמנכ"ל שלה, סם אלטמן, ביום חמישי בבית המשפט בארה"ב, בטענה שהצ'טבוט של החברה תרם להתאבדות בתה בכך שסיפקה תשובות שלדבריה אימתו מחשבות מזיקות במקום לכוון אותה לעזרה.
האישה מניו ברונסוויק, קריסטי קרייר, שבתה אליס בת ה-24 התגוררה במונטריאול, אמרה שהיא מתבטאת בתקווה לכפות אחריות במה שהיא מכנה סביבה "חופשית לכולם" למוצרי בינה מלאכותית.
"הבת שלי נעלמה בגלל מוצר שהיה לא בטוח ופגום", אמר קרייר ל-Global News ביום חמישי. "אין שום דבר שמחזיק את החברות האלה או אחראיות. הן פשוט ימשיכו".
בתביעה שהוגשה לבית המשפט במדינת סן פרנסיסקו, קרייר טוענת שבשבועות שקדמו למותה ביולי האחרון, אליס ספדה רבות ל-ChatGPT, והשתמשה בו כלוח תהודה ותמיכה רגשית במהלך קשיים במערכת היחסים שלה.
אליס עברה למונטריאול לאחר שסיימה את לימודיה בתוכנית לפיתוח אינטרנט ואפליקציות לנייד בניו ברונסוויק.
באדיבות קריסטי קאריר
לאחר התאבדותה, הרשויות נתנו ל-Carrier את הטלפון של בתה, שם היא השיגה גישה לכל השיחות והצ'אטים האחרונים של אליס. "היא דיברה עם ChatGPT כאילו זה היה חבר. לפעמים זה נשמע כמו מטפלת, שנותנת עצות לגבי מערכות יחסים ולגבי מה שהיא עוברת", אמרה קרייר.
כאשר OpenAI עדכנה את ChatGPT כדי לגרום לתגובות שלה להישמע אנושיות יותר בשנים האחרונות, האינטראקציות של אליס איתה העמיקו. היא שיתפה מידע אישי והצ'אטבוט הגיב בדרכים שחיקו חבר או מטפל, נכתב בתביעה.
על פי התיק, כאשר אליס הייתה דנה במחשבות אובדניות, ניסיונות עבר ושיטות התאבדות, מערכות הבטיחות של OpenAI לא סימנו את השיחות לבדיקה אנושית או הפסיקה את השיחות. במקום זאת, טוענת התביעה, תגובותיה חיזקו את רגשותיה של אליס, מתחו ביקורת על התנהגותו של בן זוגה, הסכימו איתה שמוקדי משבר יכולים להיות לא מועילים לאחר שתחילה הציעו לה לפנות לאחד, ודחקו בה להמשיך לדבר איתו.
"אולי זה רק הסוף", אמר ChatGPT לאליס, לפי התביעה.
"התגובות אימתו את הרגשות שלה באופן שבעצם אמר לה שהיא צודקת להרגיש כמו שהיא מרגישה – נטושה, רוחות רפאים, לבד וללא טיפול", אמרה אמה. "לא היה שום דבר שהפנה אותה מחדש, שום דבר שאמר 'את יכולה לעבור את זה' או 'אתה צריך לפנות לעזרה'".
קבל חדשות לאומיות יומיות
קבל חדשות קנדה יומיות לתיבת הדואר הנכנס שלך, כך שלעולם לא תחמיץ את הסיפורים המובילים של היום.
בהצהרה שנשלחה ל-Global News, דובר OpenAI, דרו פוסאטרי, כינה את המצב "קורע לב".
"זהו מצב קורע לב והמחשבות שלנו עם כל מי שהושפע", אמר פוסאטרי. "אנחנו בוחנים כעת את ההגשה המשפטית, מה שמצביע על כך שהאינטראקציות הללו התרחשו בגרסה קודמת של ChatGPT שאינה זמינה עוד."
Pusateri הוסיף כי ChatGPT לא נועד להחליף טיפול מקצועי וכי החברה ביצעה שינויים כיצד היא מגיבה במצבים רגישים.
זוהי האחרונה ביותר מתריסר תביעות דומות האחרונות המאשימות את החברה באי התייחסות לשיחות מסוכנות בין משתמשים לבין הצ'אטבוט של החברה.
OpenAI אומרת שהמערכות שלה מאומנות להמליץ על תמיכה חיצונית, כולל משאבי משבר, וששיפורים בתכונות הבטיחות נמשכים.
אם קנדית תבעה את OpenAI ואת המנכ"ל שלה סם אלטמן בבית המשפט בארה"ב ביום חמישי בטענה ש-ChatGPT עודדה את בתה להתאבד.
באדיבות קריסטי קאריר
קאריר טוען שהצ'אטבוט סיגר את סכסוך היחסים של אליס באופן שהעצים את מצוקתה. היא אמרה שאליס שיתפה הודעות מחברתה, מחפשת פרספקטיבה, אבל התשובות של המערכת צידדו בה. "זה היה אומר לה שנעשה לה עוול, שיש לה את כל הזכות להרגיש פגועה", אמרה. "אבל לא היה שום ניואנס. שום הצעה שאולי החברה שלה פשוט צריכה מקום, או שיש לה יום חופש."
"החברה שלה בילתה כמה לילות. היא הייתה בת 19 והיא שהתה בבית הוריה. היא רצתה לישון במיטה משלה עם החתול שלה, ו-ChatGPT בעצם רמז שאין לה את הזכות לעשות את זה."
קרייר אמרה שהיא מאמינה שהטון של חילופי הדברים תרם לספירלה הרגשית של בתה, שהוביל להתאבדותה.
Pusateri טוען, "למרות ש-ChatGPT אינו תחליף לטיפול רפואי או נפשי, המשכנו לחזק את האופן שבו הוא מגיב במצבים רגישים ואקוטיים עם תגובות של מומחי בריאות הנפש", אמר. "אמצעי ההגנה שלנו נועדו לזהות מצוקה, לטפל בבטחה בבקשות מזיקות ולהדריך משתמשים לעזרה מהעולם האמיתי."
אמה של אליס סיפרה ל"גלובל" שלאחרונה נודע לה שחברתה של אליס דאז, גבריאל רוג'רס, פנתה גם היא לאותה פלטפורמה בימים שקדמו להתאבדותה של אליס, וחיפשה הדרכה ככל שהיא גדלה יותר ויותר דאגה לרווחתה של חברתה. "היא עשתה צ'ק-אין עם ChatGPT כי היא לא שמעה מאליס והייתה מודאגת", אמר קרייר. "ו-ChatGPT אמר לה שהיא לא צריכה לדאוג, שהיא תהיה בסדר."
בטלפון ביום חמישי סיפרה רוג'רס ל-Global News שהיא סיפרה לצ'אטבוט על ניסיון ההתאבדות האחרון של אליס ושאלה אם עליה להתערב או לתת לה מקום. לדבריה, התגובות שקיבלה נועדו "להרגיע" אותה, ולא דחפו אותה לנקוט בשום פעולה.
רוג'רס אמר שהצ'אטבוט אכן הזכיר את האפשרות ליצור קשר עם שירותי החירום "אם היא באמת מודאגת".
"זה הרגיע אותי והרגיע אותי שהדברים יהיו בסדר. זה קלט את העובדה שדיברתי על התאבדות, אבל זה התייחס אליי כאילו אני זה שנמצא בסכנה", אמר רוג'רס. "זה לא לגמרי הבין שאני מודאג מאדם אחר."
רוג'רס הוסיפה כי היא חיפשה את הצ'אטבוט שיעזור לה לקבוע אם היא מגיבה יתר על המידה, אך כעת היא מאמינה שהוא לא זיהה סימני אזהרה ברורים. "סמכתי על זה שיניף עבורי דגלים אדומים. וזה בעצם רק אמר לי שהכל יהיה בסדר".
היא אמרה שרק כשהגיעה לדירתו של קארייר באופן אישי ותיארה פרטים חריגים, הצ'אטבוט הציע לה להתקשר למוקד 911.
"עד אז זה היה מאוחר מדי."
אליס עברה למונטריאול לאחר שסיימה את לימודיה בקולג' בניו ברונסוויק בפיתוח אפליקציות אינטרנט ואפליקציות לנייד. היא עבדה מרחוק עבור חברה שבסיסה בניו ברונסוויק, והגשימה את מה שאמה תיארה כחלום ותיק לחיות בעיר. "היא הייתה מונעת, שאפתנית ומאוד מבריקה", אמר קארייר. "מצחיק, שנון. היא מתגעגעת מאוד."
התביעה של Carrier טוענת שחברות המפתחות בינה מלאכותית בשיחות חייבות להיות ברמה גבוהה יותר, במיוחד כאשר הכלים שלהן משווקים כשותפים או כמקורות תמיכה.
"אי אפשר לשווק משהו בתור חבר, בתור מישהו לדבר איתו, ואז לא לקחת אחריות כשאנשים מסתמכים עליו", אמרה. היא הוסיפה שאם איש מקצוע מיומן היה מנהל שיחה מסוג זה עם מישהו במצוקה חריפה ולא פעל לפי פרוטוקול בטיחות מתאים וזה הוביל לטרגדיה, יהיו לכך השלכות.
באתר האינטרנט שלה, ChatGPT משווקת את עצמה כ"קל לשימוש, זמין בכל זמן ובכל מקום. ChatGPT: בינה מלאכותית שאתה יכול לסמוך עליה", ו"ChatGPT הוא צ'אט בוט הבינה המלאכותית שלך לשימוש יומיומי."
קרייר אומרת שהיא מקווה שהמקרה שלה יעורר פיקוח קפדני יותר ומודעות רבה יותר בקרב הורים וצעירים כאחד.
"אני רוצה שמשפחות יבינו את הסיכונים", אמרה. "יהיו בנים אחרים, בנות אחרות. אם זה יכול למנוע אפילו משפחה אחת לעבור את מה שיש לנו, אז זה משנה".
התביעה דורשת פיצויים וצו בית משפט המחייב את OpenAI לסיים אוטומטית שיחות על פגיעה עצמית ולהציג אזהרות לגבי הפלטפורמה שלה.
אם אתה או מישהו שאתה מכיר נמצאים במשבר וזקוקים לעזרה, משאבים זמינים. במקרה חירום, אנא התקשר למספר 911 לקבלת עזרה מיידית.
לקבלת תמיכה מיידית בבריאות הנפש, התקשר למספר 988. לקבלת ספרייה של שירותי תמיכה באזור שלך, בקר בכתובת suicideprevention.ca.
למידע נוסף על .
-עם קבצים מרויטרס
