מייסד-שותף של Occupy Wall Street בנה אפליקציית AI כדי לעזור לפעילים לתפוס את אמצעי החישוב
בעידן שבו השמרנות של עמק הסיליקון באה לידי ביטוי בגלוי והולכת ומתעצמת מיום ליום, מוזר לחשוב שפעם הטכנולוגיה נתפסה ככוורת של ליברליזם. האופי הימני של תעשיית הטכנולוגיה של ימינו פירושו שהמוצרים שלה נוטים להיראות גם כמשרתים אינטרסים ימניים, בין אם בהפעלתם בפועל (כמו הצ'טבוט הימני של X בגלוי וללא חרטה, Grok) או על ידי העובדה הפשוטה שקיומם משמש להעשיר קבוצה קטנה של אנשים חזקים מאוד, מאוד שמרניים.
אבל האם זה חייב להיות ככה? האם אנשי LLM וסוכני בינה מלאכותית יכולים למצוא מקום בערכת הכלים של קבוצות אקטיביסטיות פרוגרסיביות? האמונה שהם יכולים היא הרעיון מאחורי אפליקציה חדשה בשם זְעָקָההמספק צ'טבוט שתוכנן במיוחד כ"מנטור AI פרטי במכשיר לפעילים, מארגנים ובוני תנועה." (יש גם א גרסת אינטרנטלמרות שכמובן חסרה את יתרונות הפרטיות של להיות לגמרי לא מקוון.) זה פרי מוחו של שותף ליצירתו של Occupy Wall Street, מיכה ווייט, שכתב לאחרונה פוסט בבלוג על החשיבה מאחורי הפרויקט.
זה בעצם רעיון מרתק. זו בהחלט לא הדרך היחידה שבה קבוצות אקטיביסטיות ממנפות את המוצרים של ביג טק עצמה נגדה. דיווחנו בחודש שעבר על הדרכים שבהן המקומיים משתמשים ב-LLM כדי לסייע בקמפיינים שלהם נגד בניית מרכזי נתונים. אבל זו הדוגמה הראשונה שאני מודע לה שבה תוכנן LLM במיוחד לשימוש של פעילי שמאל. בנוסף, זה גם דוגמה לשימוש נפוץ יותר ויותר עבור LLMs – כיועצים מומחים.
בסופו של דבר, LLMs הם מסדי נתונים: הם דרך מפוארת בשפה טבעית לשאילתות על מערכי נתונים גדולים עבור המידע שאתה רוצה. צ'אטבוטים כלליים כמו ChatGPT מאומנים על כמעט כל דבר והכל. בתיאוריה, זה אומר שאתה יכול לשאול אותם על כרומודינמיקה קוונטית באותה קלות שאתה יכול לבקש מהם לספק עצות כיצד לצלות עוף. בפועל, זה יוצר בעיה עצומה עם הבחנה בין מידע אמין לשטויות, כי אחרת אין שום דבר להבחין במחקר שנערך בביקורת עמיתים על יעילות חיסוני mRNA מחבורה של כיריים בקבוצת פייסבוק שסוחטת את ידיהם לגבי איך זריקת קוביד העניקה להם את זה של מורגלון, או משהו.
עם זאת, אם תגביל את נתוני ההדרכה לנושא נתון ולמקורות שנבחרו במיוחד בשל המהימנות והרלוונטיות שלהם, תוכל ליצור משהו כמו Outcry: צ'אט בוט מיוחד שאתה יודע שעבר הכשרה על נתונים באיכות גבוהה. זה לא אומר שהאפליקציה לא יכולה לעשות טעויות – טבעם של LLMs הוא שהם ינסו לאסוף חלקים שונים של נתונים לתוצאה קוהרנטית בשפה טבעית, ובהתחשב בכך שהם מסתמכים בסופו של דבר על פרמטרי הניפוח הפנימיים ואלגוריתמי זיהוי הדפוסים שלהם, לפעמים התוצאה שהם יורקים תהיה לא מדויקת. (זה נפרד לבעיה של LLMs מייצרים באופן ספונטני מידע מזויף, המכונה בדרך כלל – באופן בלתי מוסבר ומרגיז – "הזוי").
זה בהחלט לא היישום הראשון של הרעיון הזה. זה היה דיווח מוקדם יותר החודש שמשהו כמו שני שלישים מהרופאים מבקשים מ-LLM רפואי מיוחד בשם OpenEvidence לייעוץ בביצוע אבחנות. זה לא בהכרח דבר רע; רופאים בהחלט חיפשו דברים בגוגל לפני הופעת ה-LLMs. זה באמת תלוי רק איפה הם שואלים, והאם הם בודקים את התגובות שהם מקבלים כדי לוודא שהן נכונות עובדתית. (למרות שאמרתי את זה, אם אתה רואה את הרופא שלך שואל את ChatGPT על הסימפטומים שלך, אתה כנראה צריך למצוא רופא חדש.)
התכונה הבולטת האחרת של Outcry היא שמערך הנתונים שלו אינו מקוון לחלוטין – הוא כלול בהורדה. על פי ה-readme, מערך הנתונים כולו מוריד למכשיר שלך בהפעלה הראשונה, ומאוחסן בספריית התמיכה ביישומים של הספרייה שלך. חשבתי שאולי יהיה מעניין לעיין בנתונים, אבל למרות כל מיני חיטוטים וחיטוטים בספריית המשתמש שלי ובספרייה הראשית של המחשב, לא הצלחתי למצוא את הקובץ המדובר. נראה שגם הוא לא נמצא בחבילת ההורדות, למרות ההורדה הכבדה של 3GB. (לשאול את הצ'אט בוט היכן מאוחסנים הנתונים שלו גם לא הוביל אותי לשום מקום.)
עם זאת, ברור שזה איפשהו, כי האפליקציה עצמה ברורה לגבי האופי הלא מקוון שלה.
אז עם כל האמור, איך מסתדרת Outcry בתפקידה כמנטור מארגן? הייתי אומר שהמידע שלו די ברמה גבוהה וכללי, לא מעט בגלל האופי הלא מקוון שלו מונע ממנו לגשת לפרטים ספציפיים שאינם כלולים במסד הנתונים שלו. קח, לדוגמה, את התשובה שלו לגבי קבוצות מקומיות נגד ICE בניו יורק:
עם זאת, עם קצת הנחיה זה יציע פעולות קונקרטיות שאתה יכול לנקוט, ולפעמים לעשות זאת ישר:
לדברי ווייט, אפליקציית Outcry "לא מושלמת", והוא מבקש מהפעילים לבדוק אותה ולהודיע לו מה עובד כדי שיוכלו לשפר אותה.
אז האם Outcry טוב? בסך הכל, הייתי אומר "כן". לאפליקציה הזו יש פוטנציאל להיות משאב בעל ערך רב, במיוחד עבור אנשים שרק מתחילים להיות מעורבים באקטיביזם ובאמת לא יודעים מאיפה להתחיל – ולהתגבר על הצעד הראשון הזה יכול להיות קשה.