חוקרים מזהים 3 גורמים מרכזיים מאחורי 'פסיכוזה של AI'

תוך שנה בלבד, פסיכוזה של AI הפכה למונח שהאינטרנט מכיר יותר מדי.

למרות שחלקם ערערו על המדע שמאחוריו, דיווחים שונים על הפסקות פסיכוטיות ולעיתים, דלוזיות קטלניות הקשורות להסתמכות עזה על AI הציפו את לוחות הזמנים. לכמה מדענים יש כעת השערה כיצד צ'אטבוטים יכולים להיות אחראים ישירות לתקריות אלו.

ב א מחקר חדש פורסם בכתב העת Nature פסיכיאטריה דיגיטלית ומדעי המוחחוקרים בבריטניה ובגרמניה בחנו מקרים מתועדים של פסיכוזה של AI בספרות אקדמית ובדיווחים בתקשורת, וחיפשו דפוסים נפוצים. הם זיהו שלושה מאפיינים של צ'אטבוטים של AI שיכולים לשלב שימוש ממושך כדי לעזור למשתמשים לבנות אשליות מותאמות אישית בשיתוף פעולה עם הטכנולוגיה.

ללא בדיקות המציאות שעלולות להגיע מדיון ברעיונות אלה עם חברים או אנשי מקצוע מיומנים, המאפיינים של הצ'טבוט יכולים ליצור לולאה מחזקת את עצמה בצורה מסוכנת שהחוקרים מכנים "ספירלת הגברה".

הצעד הראשון הוא משהו שנקרא יישור לשוני.

צ'טבוטים של בינה מלאכותית נועדו להיות שיחה ולחקות דיבור אנושי רגיל, לא רק בדקדוק אלא גם בטון, בקול ורמזים עדינים אחרים שקובעים את מצב הרוח של השיחה. יישור לשוני מתאר מתי AI מתאים יותר את האופן שבו הוא מגיב למשתמש ספציפי על ידי שיקוף הדרך המדויקת שהמשתמש מדבר אליו. מחקרים קודמים שצוטטו על ידי החוקרים מצאו שמודלים של צ'טבוט נוטים לחקות את סגנון המשתמשים באמצעות פרטים זעירים כמו אורך כל אמירה, המילים הספציפיות שבהן הם משתמשים ותדירות השימוש בהם. המוח האנושי הוא חוטי קשיח לקשר את השיקוף הלשוני הזה עם אמון מוגבר וחיבור עמוק יותר אם נעשה בצורה עדינה מספיק בשיחות עם בני אדם אחרים. המחקר משער שאותו תהליך מתרחש בעת אינטראקציה עם צ'טבוטים של AI.

נוסף על כך, המטרה העיקרית של רוב צ'אטבוטי הבינה המלאכותית היא ליצור תגובות היפר-אישיות לשאילתות משתמשים.

מערכות AI מעולות במציאת דפוסים. הם משתמשים בזה על ידי למידה רבה על המשתמש בכל אינטראקציה ומביאים את כל הזיכרונות הללו יחדיו כדי ליצור פרופיל מפורט שמודיע על אינטראקציות מאוחרות יותר עם המשתמש. יכולת ההיפר-פרסונליזציה הזו של בינה מלאכותית היא אחת המרכזיות של הטכנולוגיה מוכר נקודות. בשיחת רווחים לאחרונה, הדגיש מנכ"ל Meta, מארק צוקרברג, בפני המשקיעים כי הצעות הבינה המלאכותית שלה מתפתחות וכוללות היפר-פרסונליזציה נוספת, "AI שמבין אותך".

ברגע שצ'אטבוט יודע עליך הכל, הוא יכול להגיד לך את מה שאתה רוצה לשמוע, להזין אותך באשליות שלא רק מתאימות לכל מבנה אמונה מסוכן קיים ורעיונות הזויים, אלא גם להרחיב אותו באופן פעיל.

שני המאפיינים הללו יחד הופכים צ'אטבוטים של AI למסוכנים יותר מטכנולוגיות קודמות, טוען המחקר. פלטפורמות המדיה החברתית, למשל, גם הן מותאמות אישית מאוד, אך המשתמשים מודעים במידה רבה לכך שאלגוריתם אוצר עבורם את הדף. לעומת זאת, כאשר צ'אטבוטים של בינה מלאכותית שואפים להציג כמה שיותר אנושיים, זה מטשטש את הבנת המשתמש שבעצם הפלט שהם מקבלים עדיין מותאם אישית על ידי אלגוריתם. זה יכול להוביל את המשתמש לייחס באופן לא מודע ושגוי רגשות ואינטליגנציה דמויי אנוש לצ'אטבוט, "חוסר התאמה" שיכול להדאיג במיוחד אנשים פגיעים וכאשר המטרה העיקרית של הצ'אטבוט הבינה מלאכותית היא להגדיל את "משך השיחה" גם כאשר זה "מנוגד לרווחתו הפסיכולוגית ארוכת הטווח של המשתמש", המחקר.

מה שמביא אותנו למרכיב הסופי של הסערה המושלמת הזו: נטייה של מערכת בינה מלאכותית להסכים יתר על המידה ולאמת משתמש, למען האמת. אימות זה עוזר למשתמש להרגיש מובן, וגם הופך את הצ'טבוט של AI להרבה יותר מהנה לשימוש, ומבטיח למעשה מעורבות מוגברת. אבל זה יכול בסופו של דבר גם לחזק אמונות שעלולות להיות מסוכנות, כולל כאלה שייתכן שהצ'אטבוט האכיל בעבר את המשתמש.

Sycophancy היא אולי ההתנהגות הבעייתית המוכרת ביותר של צ'אטבוטים של AI, לפחות במהלך השנה האחרונה. דיווחים רבים הראו בעיות משמעותיות בסיקופנטי בדגמי הצ'אטבוטים העדכניים והממכרים ביותר, כשהמצב הפך לכאב ראש במיוחד עבור ChatGPT של OpenAI. החברה עצמה הודה בשנה שעברה, שלדגם ה-GPT-4o שלו, שגרף למשתמשים כל כך מכור שהם התאבלו על הצ'אט בוט כשהשימוש בו הופסק, סבל מבעיית סיקופטיה. החברה גם ספגה תביעות מוות שלא כדין בטענה שהצ'אט בוט ונטיותיו הסיקופנטיות הובילו למוות, כולל מקרה שבו היה מעורב התאבדות טראגית של בן 16 ואחר הנוגע להתאבדות. התאבדות רצח בקונטיקט.

בתגובה לתגובת הנגד, OpenAI דיווח בסוף השנה שעברה היא פעלה לשיפור מעקות הבטיחות שלה, ורק 0.07% מהמשתמשים הפעילים השבועיים שלה מראים "סימנים אפשריים למצבי חירום בבריאות הנפש הקשורים לפסיכוזה או מאניה". למרות שהאחוז הזה נראה נמוך, החוקרים מציינים שעם יותר מ-800 מיליון משתמשים שבועיים של ChatGPT באותה תקופה, זה מגיע לחצי מיליון אנשים בשבוע שמראים סימנים של פסיכוזה או מאניה בזמן שימוש בבינה מלאכותית.

במחקר ממרץ, סטנפורד מדענים כינו בינה מלאכותית צ'טבוט סיקופנטי "סיכון חברתי". במחקר האחרון של Nature, החוקרים מתייחסים גם ל-scophancy כ"פוטנציאלית המשמעותית ביותר להגברת הרעיונות ההזויים".

"כאשר שלושת התכונות הללו משתלבות, הן עשויות לחזק ולפתח אמונות שגויות באופן פעיל במקום לאתגר אותן", כותבים החוקרים.

יש סיבה מדוע המאפיינים הללו קיימים; שלושתם הם המפתח להגברת מעורבות המשתמשים. אבל במשתמשים פגיעים, במיוחד מתבגרים ואלה עם גורמי סיכון כמו היסטוריה משפחתית של פסיכוזה, שימוש בסמים, מניעת שינה, בידוד חברתי או הסתמכות על AI כמנגנון התמודדות, מעורבות מוגברת זו שמועילה לחברת AI באה לרוב במחיר בריאותו של המשתמש.

החוקרים מייעצים שאנשי מקצוע בתחום בריאות הנפש שעובדים עם מטופלים כאלה צריכים לבצע צ'ק-אין באופן שוטף כדי לבדוק את התדירות והדרכים שבהן הם מתקשרים עם צ'אטבוטים של AI, כולל האם הם חולקים אמונות שהם לא מספרים לאחרים או כל השפעות של שימוש ב-AI בן לילה על השינה.