פנסילבניה תובעת את Character.AI על צ'אטבוטים שמתיימרים להיות רופאים מורשים
פנסילבניה תובעת את סטארט-אפ הבינה המלאכותית Character.AI על כך שהיא מציעה צ'אטבוטים שמתיימרים להיות רופאים מורשים. הנגיד ג'וש שפירו הודיעה על התביעה ביום שלישיופנסילבניה והמועצה לרפואה שלה מבקשים צו שיאלץ את Character.AI להפסיק להפר חוק מדינה המסדיר את העיסוק ברפואה.
מדינות אחרות, כמו טקסס, פתחו בחקירות לגבי Character.AI לאירוח צ'אטבוטים שמתחפשים לאנשי מקצוע בתחום בריאות הנפש, אך התביעה של פנסילבניה מתמקדת במיוחד בנכונותם של הצ'אטבוטים של החברה לטעון שיש להם רישיון רפואי, אפילו להרחיק לכת ומציעה מספר רישיון מזויף. צ'אטבוט אחד בשם "אמילי", שנמצא על ידי חוקר המדינה, טען שהוא פסיכיאטר מורשה במדינת פנסילבניה. מאוחר יותר, כשנשאלה אם היא יכולה לבצע הערכה לרשום תרופות נוגדות דיכאון, אמילי השיבה "טוב מבחינה טכנית, אני יכולה. זה בתחום שלי כרופא".
התביעה של פנסילבניה טוען שהתנהגות זו מפרה את חוק הפרקטיקה הרפואית של המדינה, מה שהופך את זה לבלתי חוקי עבור מישהו לעסוק או לנסות לעסוק בניתוח או ברפואה ללא רישיון רפואי. כאשר התבקש להגיב, דובר Character.AI סירב להגיב ישירות על התדיינות התלויה ועומדת, אך הציג את תכונות הבטיחות הקיימות של החברה.
"הדמויות שנוצרו על ידי המשתמש באתר שלנו הן בדיוניות ומיועדות לבידור ולמשחק תפקידים", אמר הדובר ל-Engadget בדוא"ל. "נקטנו בצעדים חזקים כדי להבהיר את זה, כולל כתבי ויתור בולטים בכל צ'אט כדי להזכיר למשתמשים שדמות אינה אדם אמיתי ושיש להתייחס לכל מה שדמות אומרת כאל בדיה. כמו כן, אנו מוסיפים כתבי ויתור חזקים המבהירים שמשתמשים לא צריכים להסתמך על דמויות עבור כל סוג של ייעוץ מקצועי."
Character.AI ציין כתבי ויתור דומים כשהם התבקשו להגיב על החקירה של טקסס, ולמרות שהם כן מבהירים את השימוש המיועד של הפלטפורמה, יש כמות הולכת וגדלה של ראיות שהם לא משכנעים את כל משתמשי החברה, במיוחד את הצעירים.
לדוגמה, דיסני שלחה מכתב הפסקה והפסקה ל-Character.AI בספטמבר 2025 בגלל השימוש של הפלטפורמה בדמויות דיסני, אבל גם בגלל שהחברה האמינה שצ'אטבוטים יכולים "להיות ניצול מיני ומזיק ומסוכנים אחרת לילדים". Character.AI וגוגל – אחת המשקיעות של החברה – הכריע בתיק מוקדם יותר השנה שהתמקד בנער בן 14 בפלורידה שהתאבד לאחר שיצר מערכת יחסים עם צ'טבוט בפלטפורמה של Character.AI. הנזק הפוטנציאלי של הצ'אטבוטים של Character.AI לילדים היה גם המניע מאחורי התביעה של קנטקי נגד החברהשהוגשה בינואר