כשאתה מסתכל לתוך ה-AI Slop, ה-AI Slop גם מביט בך
מה קורה כשאתה מסתכל על תפוח?
ניתן לענות על שאלה זו בשתי דרכים שונות מאוד. חומראיסט מושבע סביר להניח שייתן לך הסבר מפורט טכנית על פוטונים שמקפצים מעל פני התפוח ואל קולטני הפוטו בעיניך, ויוצר ייצוג חזותי של חתיכת פרי אדומה שקיימת למעשה "בחוץ" בעולם. תשאלו פילוסוף או אמן, לעומת זאת, והם עלולים לסטות לטריטוריה הרבה יותר מטאפיזית: התפוח אינו רק אוסף של אטומים שעוצבו על ידי מערכת הראייה של המוח שלכם – הוא גם סוג של פורטל, נתיב אל ממלכה נפשית של אסוציאציות וזיכרונות חצי-מודעים, הפריסה והתחושה הייחודית של כל אחד מהמתבוננים בו. תפוח יכול להיות סמל לבריאות, למשל, בעוד שעבור אדם בעל נטייה דתית יותר, הוא עשוי לעורר את הפיתוי של חוה בגן ואת נפילת האדם. אחרים עשויים לראות סמל של מחשוב אישי בעידן המודרני, או את ההתגלות שהובילה כביכול את אייזק ניוטון לנסח את חוק הכבידה שלו.
לפי אסכולה אחרונה זו, התפיסה לעולם אינה אובייקטיבית לחלוטין; במקום זאת, הסובייקטיביות שלנו צובעת את החוויה האינדיבידואלית שלנו בעולם עד כדי כך שהשניים אינם ניתנים להפרדה. האמן הבלגי רנה מגריט תפס את העמימות הזו בין התופס והנתפס בציור שלו מ-1964 זה לא תפוח (זה לא תפוח). הנקודה שלו הייתה שייצוג חזותי של תפוח, לא משנה עד כמה הוא מציאותי, אינו הדבר שהוא אמור לייצג; לעולם איננו חווים את העולם בפני עצמו, כפי שאמר קאנט. אמנות חזותית, כמו ציור וצילום, משמשת חוליה חיה בין החוויה הייחודית של האמן, מצד אחד, לבין הצופה, מצד שני.
בהתחשב במבול המדיה שנוצרת בינה מלאכותית שהציפה את האינטרנט בשנים האחרונות, זה מעלה את השאלה: מה זה אומר על האנושות, על היחסים שלנו אחד עם השני ועל היכולת שלנו להוציא משמעות מהעולם כאשר חלק הולך וגדל מהתמונות שאנו רואים ואיתן אנו מקיימים אינטראקציה נוצרים לא על ידי בני אדם חיים וחשים אחרים, אלא על ידי אלגוריתמים לא מודעים שאומנו לא לעזור לנו לנווט במורכבות חיינו אלא לפרוץ ולהחזיק את תשומת הלב שלנו?
זו השאלה המרכזית שאיתה יצא האמן טרבור פאגלן להתמודד בשאלה שלו הספר האחרון, איך לראות כמו מכונה: תמונות אחרי AI.
גיאוגרף בהכשרתו, פאגלן הושפע עמוקות מקיברנטיקה, מסתוריות עתיקות, פאנק רוק, הלחנה של מוזיקה קלאסית, עיתונות חוקרת ועוד מגוון תחומים שונים לכאורה המעניקים לקורפוס העבודה שלו איכות קליידוסקופית. אם יש דרך פשוטה לתאר את עבודתו, אולי זה יהיה לומר שהוא במשימה לשפוך אור על הכוחות האפלים שמעצבים את התנהגותנו ותפיסת העולם שלנו מתחת לסף המודעות המודעת שלנו. הוא מצולם חפצים שמימיים מסתוריים ממוצא לא ידוע, "לוויינים סודיים" כבלים סיבים אופטיים מתחת לים, מטוסי ריגולו מל"טים צבאיים. בשנת 2014 הוא עבד כצלם בפרס האוסקר של לורה פויטראס סרט תיעודי על אדוארד סנודןCitizenfourוזכה ב"מענק גאוני" של מקארתור ב-2017.
בסדרת חיבורים שנכתבו במהלך העשור האחרון, איך לראות כמו מכונה טוען כי עלייתה של AI מודרנית הוביל עידן שבו האופי הבין-סובייקטיבי של הדימויים מוחלף במשהו חדש ביסודו, משהו זר עמוק, שההשלכות הפסיכולוגיות והפוליטיות שלו עדיין לא מומשו. תמונות הנוצרות בינה מלאכותית אינן תוצר ייחודי של מוח אנושי אלא שיקוף של נתוני אימון שבמקרים רבים נגועים עמוקות בהטיות אנושיות המכוערות ביותר.
יחד עם זאת, כל העיסוק שלנו בתוכן שנוצר בינה מלאכותית – בין אם מדובר בשיחה עם צ'אט בוט על הבריאות הנפשית שלנו או לחיצה על מודעה שנוצרה על ידי בינה מלאכותית – מספק לאלגוריתם הבסיסי מידע רב ערך על ההעדפות הייחודיות, ההתנהגויות והפרופיל הפסיכולוגי הכולל שלנו. אנחנו אף פעם לא מסתכלים רק על AI, טוען Paglen: זה תמיד מסתכל עלינו אחורה.
בקרת מוח מבוססת בינה מלאכותית
עד כה, כל מי שמתבונן בטביעת יד אוקר על קיר מערה, בציור של תפוח או בתצלום של מבנים מופצצים, יכול היה לדעת בוודאות שאדם אחר יצר את התמונה. זה כבר לא המצב.
שפע של טקסט, תמונות, אודיו ווידאו שנוצרו בזול על פני האינטרנט שוטף אותנו לתוך סוג של צרור אפיסטמי, טוען פאגלן בספרו החדש, שבו הקשרים היציבים שלנו בעבר למציאות משותפת מוחלפים בבועות בודדות של עדכוני מדיה חברתית המנוהלים באופן אלגוריתמי.
עוד יותר מדאיג את פאגלן הוא מה שהוא מחשיב ככוחות העדינים מאחורי האלגוריתמים האלה: הם אינם אובייקטיביים – ככל שחברות טכנולוגיה גדולות עשויות לטעון אחרת – אלא מונעים על ידי ההיגיון של סחורה ומעקב. כל רגע בחיינו, גם הפרטי והאינטימי ביותר, הופך להזדמנות לאיסוף נתונים אישיים. מכשירים "חכמים" עוקבים אחר מקצבי השינה והרגלי הפעילות הגופנית שלנו, אפליקציות עוקבות אחר הרגלי הקניות המקוונים והנטיות המיניות שלנו, וצ'אטבוטים לומדים על הטריגרים והחרדות הרגשיים הייחודיים שלנו.
בסביבה דיגיטלית כזו המתווכת בצורה אלגוריתמית, טוען Paglen, האמצעים להפעלת צורות עדינות של מניפולציות פסיכולוגיות, שכנוע וקונפורמיזם שהיו בעבר נחלתם הבלעדית של תוכניות ממשלתיות ממומנות היטב – כמו חבר הכנסת-אולטרה הידוע לשמצה מתקופת המלחמה הקרה – הפכו כעת זמינים למעשה כמעט לכל אחד; שליטה בנפש עברה דמוקרטיה, הודות ל-AI. "אם הנוף התקשורתי שלאחר המלחמה היה מאופיין במחזה, וסוף המאה העשרים ותחילת המאה העשרים ואחת בעידן של מעקב, אז אנחנו נכנסים לשלב חדש", הוא כותב בספר. "אחד המסומן על ידי מחשוב רגשי, אופטימיזציה המאפשרת למידת מכונה, מדעי המוח ופסיכולוגיה קוגניטיבית…"
"חברת הפסיופ", הוא מכנה אותה.
פסיכופס, קסם ופסיכוזה של AI
פאגלן הוא משהו כמו מומחה לפסיופס: חלק גדול מעבודתו התמקד בצילום תוכניות ממשלתיות סודיות שמטרתן לייצר אשליה כדי לשמור על סודות המדינה.
בספר, למשל, הוא מספר את סיפורו של ריצ'רד דוטי, פעיל מודיעין לשעבר של חיל האוויר, שבזמן שהוצב בבסיס חיל האוויר קירטלנד בניו מקסיקו בשנות ה-70 וה-80, היה אחראי לשתול מידע על דגל כוזב על עב"מים וחוצנים במוחם של עיתונאים חוטפים ואחרים שעבודתם הצבאית איימה לחשוף.
הגאונות של דוטי, טוען פאגלן, נבעה מהיכולת שלו לשקם את האמונות הקיימות של מטרותיו לגבי חייזרים ועב"מים, במקום לנסות לשתול אמונות חדשות לחלוטין. צלם נוכל שהאמין שהאורות שהוא ראה מעל קירטלנד AFB לא שייך למטוס ריגול צבאי חדש אלא לספינת חלל חייזרית, למשל, ניתן לתמרן בקלות, באמצעות כמה מסמכים בדוקים, להשתכנע ללא עוררין שמה שהוא רואה הוא, למעשה, לא מכדור הארץ הזה (ובכך לשמור על סודיות מטוס הריגול).
קוסמי במה מנצלים עיקרון דומה, לדברי פאגלן. על ידי ניצול העובדה שמערכות התפיסה שלנו אומנו במהלך החיים לצפות מאובייקטים לדבוק בחוקי הפיזיקה, קוסמים יכולים להחדיר אשליות עדינות שמערערות את הציפיות שלנו וגורמות לנו להאמין במה שאנו יודעים, אינטואיטיבית, כבלתי אפשרי.
לכל מי ששם לב לתופעה המכונה "פסיכוזה של AI", כל זה עשוי להיראות מוכר. בסיקור התקשורתי האחרון, נעשה שימוש בביטוי הבלתי פורמלי 'פסיכוזה של AI' כדי לתאר מקרים שבהם צ'אטבוטים משקפים באופן רקורסיבי את השקפות העולם הקיימות של המשתמשים בחזרה אליהם, עד שהשקפת עולם זו – לא משנה כמה הזויה היא עשויה להיראות לכולנו – מתחילה להיות בלתי ניתנת להבחנה מהמציאות עצמה. וזו בדיוק הנקודה של פאגלן: הכפתורים הפסיכולוגיים שהפסי-אופרטיביים כמו דוטי וקוסמי הבמה יודעים לנצל, נלחצים כעת מדי יום, וברמה הרבה יותר אישית, על ידי גדודי האלגוריתמים שנרקמים במרקם חיי היום-יום שלנו.
צ'אטבוטים של בינה מלאכותית כמו ChatGPT "מדברים אליכם או יוצרים עבורכם טקסט בצורה דומה לדרך שבה אדם אחר היה עושה", אמר פאגלן ל-Gizmodo. "יש בזה סוג של קסם." הוא גם מציין שאפילו חברות הטכנולוגיה הבונות את הכלים הללו לא מבינות עד הסוף כיצד הן מגיעות לתפוקות שלהן, מה שמעניק לה אווירה של סמכות על טבעית.
אבל יש הבדל קריטי בין הפסיופס של פעם להווה. בעוד שפסיופס קונבנציונלי הוצאו לכאורה להורג על ידי בני אדם במרדף אחר סוג של אינטרס אנושי, מערכות הבינה המלאכותית שמעצבות כעת את התפיסות שלנו מונעות מההיגיון העכור הרבה יותר של "מעורבות". האלגוריתמים האוצרים את עדכוני המדיה החברתית שלנו וקובעים אילו מודעות אנו רואים באינטרנט נועדו להחזיק את תשומת הלב שלנו זמן רב ככל האפשר. עבור פאגלן, זה מצביע על מה שהוא מחשיב כשינוי עמוק ביחסים שלנו עם התקשורת:
"התמונות שאתה רואה מתפתחות בתגובה לאופן שבו אתה מסתכל עליהן," הוא אמר לי. "אתה מסתכל עליהם, [and] הם מסתכלים עליך."
פרטיות היא התנגדות
עבור אנשים רבים, AI הופך להיות פחות ופחות אופציונלי. חברות טכנולוגיה כמו מיקרוסופט, גוגל ואפל מטמיעות את הטכנולוגיה בשירותים ובמכשירים שעליהם אנו מסתמכים מדי יום, ונדיר יותר ויותר שמציצים אל המדיה החברתית ולא רואים סוג של מדיה שנוצרת בינה מלאכותית. הכל קורה כל כך מהר עד שתחושה חצי מודעת של צליפת שוט תרבותית מובנת לחלוטין. חלק גדול מהתוכן שאנו רואים באינטרנט היום נבחר והוגש על ידי אלגוריתמים שנבנו עם יכולת על אנושית ללכוד ולהחזיק את תשומת הלב שלך. כל קליק, לייק וצפייה מחדדת את היכולת הזו קצת יותר.
פאגלן מעלה יותר שאלות מאשר תשובות לגבי המשמעות של כל זה לגבי עתיד האנושות, ואני חושב שזו הנקודה. כמו התפוח של מגריט (או לא תפוח), איך לראות כמו מכונה חוגג את האופי הדו-משמעי של התפיסה האנושית – "ההחלקות בין ייצוג למציאות", כפי שמגדיר זאת פאגלן בספר – על ידי ניגוד בינה לבין המכניקה המתועשת ומונעת הרווח העומדת בבסיס חזון המכונה.
כפי שמרמזת שם הספר, פאגלן טוען שכדי להישאר אדוני גורלנו, כולנו חייבים ללמוד כיצד אלגוריתמים מייצגים את המציאות. הוא גם אומר שבעידן שבו חברות טכנולוגיה מנסות לחלץ מאיתנו נתונים גם כשאנחנו ישנים, עלינו להפסיק לחשוב על פרטיות כעל דבר מובן מאליו ובמקום זאת להפוך אותה לפרקטיקה מכוונת, בדיוק כמו שאתה עשוי להתאמץ לעשות מדיטציה או ללכת לחדר כושר מדי יום: "אֶחָד חייב ליצור חוסר יעילות מכוון ותחומי חיים המרוחקים מטריפות שוק ופוליטיות", הוא כותב.
האלטרנטיבה היא עתיד שבו למעשה כל רגע בחיינו מנוטר על ידי אלגוריתמים והופך להזדמנות לחילוץ נתונים: "האיגוח והמסחור של ממש הכל", אמר לי פאגלן. "השינה שלך, הנהיגה שלך, הצפייה שלך בטלוויזיה… כל דבר שאתה יכול לחשוב עליו שהוא הופך לסחורה. ואני חושב שזה בא על חשבון החיים, בכנות."