ספייק ג'ונזה, יוצר הסרטים מאחורי 'ה', מזהיר מפני עיצוב AI צ'טבוט 'מניפולטיבי'

יוצר הסרטים ספייק ג'ונזה סיפק חזון כמעט נבואי של העתיד עם רומן המדע הבדיוני שלו ב-2013 שֶׁלָהשבו גבר בודד מאוד ומסוגר יותר ויותר מתאהב בהדרגה במערכת הפעלה של בינה מלאכותית שהוא משוחח איתה בפקודה קולית.

יותר מעשור לאחר מכן, החיים חיקו (סוג של) אמנות, וג'ונזה מודאגת מהסכנות שבה.

מלבד הפיכתה למדיטציה קלאסית של פולחן מודרני על בדידות והצורך האנושי מטבעו באינטימיות, שֶׁלָה יש לטעון גם מקור השראה עבור ChatGPT של OpenAI. מנכ"ל OpenAI, סם אלטמן התייחס מפורסם לסרט ב-X כאשר הכריזו על GPT-4o, מודל הצ'טבוט שימצא את עצמו מאוחר יותר במרכזן של כמה מחלוקות פסיכוזה של AI והתמכרות בשל נטיותיו העקיפות. החברה אפילו הציגה לראשונה את הצ'אטבוט בקול חדש שהתבסס לכאורה ללא הסכמה עליו סקרלט ג'והנסוןשדיבב את מערכת הבינה המלאכותית בסרטו של ג'ונזה.

לאחר ש-ChatGPT התפוצץ בפופולריות והזניק צ'אטבוטים של AI לחיי היומיום, ג'ונזה אומר שההשוואות לסרט שלו הגיעו במהירות. בשיחה בכנס Vibecon של חברת Vibecon Replit בניו יורק ביום רביעי, הכותב-במאי דיבר על הסרבול של אנשים שמחמיאים ל"ממשק המשתמש המדהים" שהוא הגה עבור דמותו של ג'והנסון, סמנתה. הוא אומר שהסרט עוסק פחות בטכנולוגיה ויותר במערכות יחסים ואינטימיות, אז הוא רצה שהקהל ירגיש שלצ'אטבוט יש אוטונומיה, ששונה מהטכנולוגיה איתה אנו עוסקים כעת.

"זה, כאילו, על פני השטח דומה, אבל לי אישית, לא דומה, ואני חושב שה-AI שמתיימרים להיות אנושיים הם, אתה יודע, מניפולטיביים," אמר ג'ונז. "הילדים צריכים לגדול בידיעה שהם הולכים להיות מאוד מאוד משכנעים ומפתים מאוד – ומאוד שימושיים וחזקים מאוד – אבל הם עדיין רק מערכת, מערכת מדהימה של זיהוי דפוסים."

רגשותיו של ג'ונזה מהדהדים חרדה רחבה יותר בתרבות. הצ'אטבוטים מתוכננים סביב מעורבות שיא, מה שהוביל לאנשים לפתח תלות בטכנולוגיה. במהלך השנתיים האחרונות, התמכרות ל-AI והמונח הנלווה לה AI פסיכוזה נכנסו במהירות ללקסיקון המקוון. התופעה הפכה מספיק גדולה כדי שאנשים מתארגנים קבוצות תמיכה להתמכרות לצ'אטבוט. במקרים מסוימים, משתמשים גם ניהלו קשרים אינטימיים עם הצ'אטבוטים הללו, אפילו מתאבלים כאשר דוגמנית יוצאת לפנסיה, כמו מה שקרה כאשר OpenAI ניתקה את הגישה ל-GPT-4o.

בכמה מקרים מתוקשרים, התוצאה הייתה טרגדיה. רוב הזמן, הקורבנות היו משתמשים פגיעים, כמו ילדים או אנשים עם מצבים נפשיים קיימים. כמו במקרה של א בן 14 שהתאבד רגעים ספורים אחרי צ'אטבוט Character.AI שעוצב על פי א משחקי הכס הדמות ביקשה ממנו לכאורה "לחזור הביתה" אליה. או בשנה שעברה, כשגבר לקוי קוגניטיבי מת כשניסה להגיע לעיר ניו יורק כדי "להיפגש" דמות ה-AI הפלרטטנית של Meta צ'אט בוט שהוא שוחח איתו.

תפקידה של AI בהוליווד

למרות ההסתייגויות שלו לגבי עיצוב צ'אטבוט, ג'ונזה התנסה בשימוש בבינה מלאכותית בעבודתו. ב הנמרסרט קצר עטור כוכבים שעשה עבור גוצ'י בסוף השנה שעברה עם היוצרת ההולנדית הלינה ריין, ג'ונזה השתמש בבינה מלאכותית כדי להנפיש קולאז' לרצף סיוט שנמשך בערך חצי דקה. למרות שהוא אמר שזה "מעניין" להתנסות בטכנולוגיה, הוא הזהיר שלא להסתמך עליה בחלק הארי של תהליך היצירה.

"זה נותן לך אשליה שאתה באמת מייצר משהו, כי זה מייצר משהו כל כך מהר," אמר ג'ונזה, אבל בסופו של יום, התהליך היצירתי דורש זמן להיאבק ו"המילים יצאו ממך".

"אני חושב שההיפך מסלופ הוא כשהיא מגיעה מתוכך," אמר ג'ונזה.

בינה מלאכותית נכנסת במהירות לתעשיית הקולנוע, ונראה שהוליווד מקוטבת לגבי מה תפקידה צריך להיות. מצד אחד, יש לך את אלה שמקבלים בינה מלאכותית לתוך המרחב היצירתי. הבמאי מרטין סקורסזה חתם לאחרונה כשותף ויועץ לסטארט-אפ ליצירת תמונות בינה מלאכותית, ואמר כי הכלי יכול להיות שימושי בתכנון סטוריבורד לפני הייצור. מוקדם יותר החודש, פסטיבל הסרטים טרייבקה בראשות רוברט דה נירו עלה לראשונה א סרט מלא שנוצר בינה מלאכותית. אמנים אחרים, מ ריס ווית'רספון אֶל סטיבן סודרברגיצאו גם בתמיכה באימוץ AI לתעשיית הקולנוע.

אבל מהצד השני, יש לך אמנים נגד זה בתוקף. מְנַהֵל גיירמו דל טורו אמר שהוא מעדיף למות מאשר להשתמש בבינה מלאכותית גנרטיבית בסרטיו. עוד מבקר בינה מלאכותית, סת' רוגןלא רק שנקרא סרטוני AI slop באינטרנט "חרטא הכלבים הכי מטופש שראיתי בחיי", אלא הוא גם אמר שאם אתה משתמש בבינה מלאכותית כדי לכתוב, אז אולי אתה לא צריך להיות סופר.

נראה ש-Jonze יותר בסדר עם שילוב הטכנולוגיה בפרקטיקה שלו מאשר חלק מעמיתיו, אבל עדיין מודאג מההשפעה של הקבלה הסיטונאית שלה.

"זו ישות מאוד רעבה, והיא תרצה לקחת כמה שניתן לה, ואתה יודע, יש דברים מסוימים, כמו שיתוף פעולה עם אמנים אחרים, שאני רוצה להגן עליהם", אמר ג'ונזה. "אני חושב שזה כלי מדהים, אבל זה גם לא, ולא אמור להחליף שיתוף פעולה אנושי; זה המקום שבו קורה חשמל שאי אפשר להגדיר אותו."

יצירה באמצעות בינה מלאכותית היא חווית סולו, אמר ג'ונזה, וכדי לשמש תעשיות יצירתיות, הטכנולוגיה צריכה לתת עדיפות להתפתח בצורה שתקדם יותר שיתוף פעולה.

"צריכים להיות היבטים חברתיים ל-AI שאני מקווה, או שאני מניח שיבואו, אבל זה צריך להיות בחזית", אמר ג'ונזה. "זה צריך להיות שם למעלה עם זמן ופלטפורמה ומעורבות."