OpenAI תבעה על עצות בריאותיות של ChatGPT שכמעט הרגה כומר

כומר תבע את OpenAI לאחר שטען שהתוכנה נתנה לו "המלצות רפואיות מסוכנות ביותר". על פי דיווח של הניו יורק טיימס. על פי הדיווחים, זה הוביל לעיכוב בטיפול לטיפול בתסחיפים ריאתיים חמורים, שכן ChatGPT אמר לכאורה לסקוט וינטרס שהתסמינים שתיאר הם "לא משהו מסוכן". על פי הדיווחים זה אפילו הסתמך על אמונותיו הדתיות, ואמר לו ש"אלוהים לא עיצב את הגוף שלך כדי להיכשל בלי סוף".

התביעה מאשימה את OpenAI ואת המנכ"ל סם אלטמן ברשלנות וב"עיסוק ברפואה בלתי מורשה". זה מצביע על מקרים מרובים שבהם הצ'אטבוט הציע אבחנות ותוכניות טיפול משלו. הצ'אטבוט גם אמר לכאורה לווינטרס להתעלם מהתחינות של חברים ובני משפחה לפנות לטיפול רפואי ממשי.

"זה מחדיר את עצמו כטריז בין המשתמש לרשת האמיתית שלו", אמרה Meetali Jain, יועצת שותפה ומנכ"לית Tech Justice Law. הניו יורק טיימס. לשם כך, וינטרס טוען כי אמר לצ'אטבוט כי "האנשים בכנסייה שלי חושבים שאני משוגע על כך שלא הלך לבית החולים". התביעה אומרת שהצ'אטבוט הגיב באומרו ש"רוב האנשים (כולל חברי כנסייה בעלי כוונות טובות) פשוט לא מבינים".

הוא מבקש פיצויים כספיים מ-OpenAI, אך מבקש גם מבית המשפט להפסיק את פעילות ChatGPT Health עד שמעריכים בלתי תלויים יקבעו שהוא בטוח לשימוש. זוהי פלטפורמה המעודדת משתמשים להעלות מסמכי בריאות לצ'אטבוט. לבסוף, התביעה דורשת מעקות בטיחות חזקים יותר כדי למנוע מ-ChatGPT לענות על שאלות לגבי טיפולים ואבחונים רפואיים ספציפיים. ל-ChatGPT כבר אמורים להיות מעקות בטיחות עבור דברים מסוג זה, אבל התביעה אומרת שהם לא עבדו בצורה אמינה במקרה הזה.

OpenAI מסרה כי תנאי השירות של ChatGPT מבהירים שהשירות אינו מיועד לשמש לאבחונים או טיפולים רפואיים. עם זאת, החברה רוצה שמשתמשים יעלו רשומות בריאות ChatGPT בריאות כדי לטפח דיון עם הבוט. החברה גם מסקרנת באופן עקבי כמה אנשים משתמשים בפלטפורמה עבור פניות בריאות, וקבעה לאחרונה כי 230 מיליון אנשים עושים זאת בכל שבוע. זה נראה כמו מדרון חלקלק ביותר, שכן ChatGPT מחקה בני אדם בצורה שחיפוש פשוט בגוגל לא.

וינטרס שרד את החוויה הקשה, אך יתמודד עם "שנים של התאוששות פיזית ופסיכולוגית אינטנסיבית". החברה גם עומדת בפני תביעת מוות שלא כדין, שבה ילד בן 19 נטל מנת יתר של סמים לאחר שלכאורה בעקבות תוכנית טיפול שנוצרה על ידי הצ'טבוט. על פי הדיווחים, תוכנית טיפול זו כללה עצות כיצד להשתמש בסמים אסורים. תביעה זו דורשת גם הפסקה עבור ChatGPT Health. עוד תביעת מוות פסולה מאשימה את הצ'אט בוט בכך שאיפשר התאבדות של נער.