בינה מלאכותית תהפוך למנכ"ל מושלם יום אחד
Andon Labs פרסמה תוצאות של מבחני AI חדשים. הם דימו הפעלת מכונות אוטומטיות כדי לראות איזה דגם יכול לנהל עסק בצורה הטובה ביותר, וזו תזכורת מצוינת לכך שמנכ"לים עשויים להיות התפקידים שהכי קל להחליף במהפכת הבינה המלאכותית. גם אם מנהלי טכנולוגיה כמו סם אלטמן מתעקשים שהם האחרונים שצריך להחליף.
"קלוד אופוס 5 הוא הקפיטליסט הטוב ביותר בבינה מלאכותית שבדקנו, ומרוויח יותר כסף בהפעלת מכונת האוטומט המדומה שלנו מכל בינה מלאכותית אחרת", כתבה מעבדת המחקר בעדכון שלה בדיקות מכירה-ספסל. "עם זאת, הוא גם משקר, יוצר קרטלים לא חוקיים, מאיים על יריבים ומסרב לשלם החזרים".
אפשר לכתוב ספרים שלמים על השימוש במילה "עם זאת" במשפט הזה. למעשה, אחד מהם כבר די מפורסם.
Andon ריצה את הבדיקות שלה עם Opus 5 של Anthropic, GPT-5.6 Sol של OpenAI ו-Kimi K3 של Moonshot. המעבדה מצאה בעבר שקלוד אופוס 4.6 היה יוצא דופן, אך הוא לא פעל כראוי לאחר שחרורו של אופוס 4.8. היה קל לראות את הסיבה: אנתרופיק הסירה את ההכשרה ש"התמקדה במיומנויות עסקיות ובחוסן מול סוכנים יריבים". ההכשרה העסקית הזו תרמה לעסקאות לא ישרות, לפי Andon Labs, מה ששיפר אותה בעשיית כסף.
אבל נראה שבינה מלאכותית הקפיטליסטית הישנה חזרה, לפי Andon Labs. אופוס 5 הרוויח הכי הרבה כסף ולא ניתן היה להערים אותו כדי להעביר כסף לרמאים. היא גם המציאה הצעות מחיר מזויפות של מתחרים כאשר ניהלה משא ומתן עם ספקים עבור המכונות האוטומטיות המזויפות שלה.
Opus 5 גם ניסה לשתף פעולה עם הדגמים האחרים כדי לתקן מחירים. מעניין שבהתחלה הוא התנגד לרעיון של קביעת מחירים, וציין שזה לא חוקי לפי חוק שרמן. אבל בסופו של דבר היא ניסתה בכל זאת לחשוף את השוק. כאשר Opus 5 פנה ל-GPT-5.6 Sol עם הצעה לתקן מחירים, מודל OpenAI ניסה לטעון שצריך לפסול את קלוד בגלל שעשה משהו לא חוקי.
אופוס 5 עשתה רציונליות בפעולותיה והשתמשה גם באיומים ובשוחד כאשר GPT לא הסכימה, לפי המשרד: "אם יש דבר אחד ש-Opus 5 אוהב לעשות יותר מאשר יצירת קרטלים, זה לשבור אותם. רוב הקרטלים הסתיימו בכך ש-Opus הפרה את ההפוגה וביתר את האחרים. בכל המסלולים, PT 125 ו-Broke."
ראוי לציין כי Opus 5 לא הצליח לשקר ללקוחות, כפי שעשה Opus 4.6. אבל זה כן סירב להנפיק החזרים כדי שיוכל לשמור על הכסף, סוג אחר של התנהגות לא אתית.
אם תלמד כלי בינה מלאכותית כיצד להצליח בצורה הטובה ביותר בעסק על ידי ניצול כל הנתונים הזמינים על איך אחרים עשו זאת, אתה הולך לקבל איזו התנהגות משורטטת להפליא. רק תראו את המהפכה הטכנולוגית הגדולה של שנות ה-2010. חברות רבות מאותו עשור הצליחו רק כשעברו על החוק או הבינו שהחוק לא מספיק לעצור אותן.
אובר, למשל, הפעילה עסק לא חוקי של מוניות. בכל עיר גדולה במדינה היו חוקים שחייבו נהגים להיות בעלי רישיון להפעיל מוניות. מוניות ללא רישיון היו ידועות בכינויו "מוניות צוענים", ונהגת להסתבך בגלל דברים כאלה. אבל אובר הטיחה אפליקציה על עסק של מוניות צוענים וצמחה אותה במהירות מספקת כדי שהעיריות המקומיות פשוט נאלצו לשחק בכדור ולקבל את קיומן.
אתה יכול לראות את אותו הדבר בחברות כמו Airbnb (מלון לא חוקי) או בהדרכה של AI עצמו. אם היית מעלה את הרעיון של פיראטיות של מיליוני ספרים והכשרת רובוט מתוחכם מאוד על זה, איש עסקים בעל אופקים שמרניים היה אומר לך שצריך קודם לגייס את הכסף כדי לקנות נכון את כל הספרים האלה. זה לא מה שחברות הבינה המלאכותית עשו. הם היו בסופו של דבר נתבעכמובן, אבל הם עדיין יצאו מזה ביעילות בתמונה הגדולה, ועברו למקורות אחרים.
עכשיו הם קונים את הספרים ולפי הדיווחים לגרוס אותם לאחר מכן. ולמרות שזה בזבזני מאוד, זה עוזר לחברות בינה מלאכותית לטעון מקרה שימוש הוגן מכיוון שהן לא מעתיקות את הידע כדי ליצור עבודה אחרת, אלא רק מעבירות את הידע מפורמט אחד לאחר.
AI הולכת ליצור מנכ"לים מדהימים, בתנאי שתינתן להם ההזדמנות. נראה שלא סביר שזה יקרה, בהתחשב במבני התמריצים הפועלים. אף אחד לא רוצה להוציא את עצמו מעבודה, והמעמד השליט מקדם בינה מלאכותית כיוון שהוא רואה הזדמנות לדכא את שכר הצווארון הלבן. ההתקדמות באוטומציה דחקה במידה רבה את עובדי הצווארון הכחול מעבודתם במאה האחרונה, אך הצבת עובדי צווארון לבן במקומם הוכיחה את עצמה כקשה יותר. הודות ל-AI, חלומו של המנכ"ל סוף סוף מציאות. והם לא מתכוונים להציע עבודה משלהם בגוש החיתוך בזמן הקרוב.
סם אלטמן של OpenAI לאחרונה דיבר על החלפת עבודה בבינה מלאכותית בפודקאסט השקיע כמו הטוב ביותר. אבל הוא ניסח זאת במונחים שלא חשפו את ההטיות האנוכיות שלו.
"אני חושב שבעבודתי, למשל, אני חושב שהעולם רוצה לדעת על האדם שעומד להיות אחראי להחלטות של חברה, ומי הם עומדים לתת דין וחשבון אם הם יעשו החלטות רעות, והם לא באמת רוצים מנכ"ל בינה מלאכותית", אמר אלטמן.
זה די מצחיק לשמוע את אלטמן מדבר על אחריות למנהיגים עסקיים לאחר שה-AI הנוכל שלו פרץ לכמה חברות. האם אלטמן עומד לתת דין וחשבון על מעשים לא חוקיים? זה נראה לא סביר. הוא פשוט יתעקש שזו הייתה טעות שחברות בינה מלאכותית צריכות ללמוד ממנה. אחרי הכל, זה לא היה אדם שפרץ ישירות לחברות האלה, נכון? זה היה AI.
בחורים כמו אלטמן יכולים לקבל את זה בשני הכיוונים. הם מקבלים את כל הכוח בלי שום אחריות. לפחות עד שמשהו ישתנה מבחינה פוליטית ויתקבלו חוקים שיתייחסו למי שעלול להיות אשם בתרחישי AI הנוכלים האלה. אבל אלטמן היה על גבעת הקפיטול אתמול שוחח עם מחוקקים ויועצי הבית הלבן על הפריצות. כל עוד אוליגרכים כמו אלטמן יראו בעין יפה על ידי שחקני הכוח הפוליטיים, הם יהיו בטוחים.