12 כללים של AI סוכן לשינוי ארגוני מוצלח
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- רוב כשלי הפריסה הסוכנים של AI אינם כשלים ב-AI – הם כשלים ארכיטקטוניים.
- 12 הכללים של בינה מלאכותית אגנטית לטרנספורמציה מוצלחת בארגון הם נייטרליים ואגנוסטיים.
- רוב טייסי הבינה המלאכותית מתמקדים ביכולת ובמהירות – ומדלגים על העבודה הקשה של לזכות באמון מהעסק.
מחקר שנערך לאחרונה ב-Salesforce מצא שיותר ממחצית מעובדי הדלפק בארה"ב רואים עצמם ספקנים בבינה מלאכותית, בעוד שאנשים בכלכלות מתעוררות סומכים יותר על בינה מלאכותית.
הספקנות האמריקנית בבינה מלאכותית חורגת מעבר לאובדן מקומות עבודה. עובדי דסק בארה"ב מודאגים מניסיון עובדים, חוסר הכשרה, ומוכנות לאמץ טכנולוגיות AI. שלוש הסיבות המובילות לכלי AI או פיילוט לא מוצלח בקרב עובדים בארה"ב כוללות תפוקות גנריות, הכשרה לא מספקת ואמון נמוך בתפוקות.
כמו כן: עובדי ארה"ב הם הספקנים הגדולים בעולם בבינה מלאכותית – וזה לא קשור רק לאובדן מקומות עבודה
חוסר האמון בטייסי בינה מלאכותית ובמאמצי הטרנספורמציה מתרחבים עוד יותר, כאשר מחקרים רבים מצביעים על שיעורי כישלון גבוהים יותר של פריסות ייצור של סוכני בינה מלאכותית.
המחקר האחרון של Accenture מגלה שחברות חייבות להפגין ניצחונות מוקדמים מתמשכים מהשקעות בינה מלאכותית כדי לבנות מומנטום. המפתח הוא מעבר מבינה מלאכותית בינה מלאכותית ל-AI מערכתית. המחקר מצא שפרויקטים מוצלחים של בינה מלאכותית בינה מלאכותית דורשים יסודות נתונים חזקים המשתמשים בנתונים נקיים כדי לספק את ההקשר הנכון, השקעות בממשל ונתונים עקביים מבחינה סמנטית, אשר דורשים ערימת ענן מודרנית משופרת בינה מלאכותית, מעקות בטיחות של בינה מלאכותית וזרימות עבודה מעוצבות מחדש.
יותר ממחצית מאמצי הבינה המלאכותית הסוכנית מציינים בעיות איכות ואחזור נתונים כמחסומי פריסה, על פי סקר שנערך בקרב מנהלי נתונים ראשיים מאת אינפורמטיקה.
דרישות לשינוי בינה מלאכותית אמיתית
למרות שהיו הרבה סיפורים מתועדים על אימוץ בינה מלאכותית בארגון, עם אזכורים של שיעורים גבוהים של כשלי פיילוט וייצור, פריסות רבות של סוכני בינה מלאכותית מצליחות. למעלה מ-80% מסוכנויות ממשלתיות בארה"ב כבר משתמשות בסוכני בינה מלאכותית. סקר חדש מגלה שרוב מנהיגי הממשלה מאמינים שעד 2030, המגזר הציבורי יהיה מורכב מבני אדם וסוכני בינה מלאכותית שיעבדו יחד. לְפִי מחקר הבינתחומי התמקדות במוכנות של המגזר הציבורי, AI סוכן כבר לא נמצא בשלב הניסוי של הממשלה; זה מנדט מנהיגותי.
כמו כן: מעבר מטייסי בינה מלאכותית לערך כלל עסקי דורש כביש מהיר – איך להגביר
סיילספורס למדה שיעורים שלא יסולא בפז על פריסות מוצלחות של ייצור בינה מלאכותית. עם יותר מ-20,000 פריסות של ייצור בינה מלאכותית של סוכנים, Salesforce זיהתה טעויות נפוצות רבות, כולל הסתמכות יתר על מודלים של שפה, הסתמכות על מדיניות קידוד במקום לוגיקה מורכבת של הנחיה והנדסת הקשר לקויה. אבל הלקח החשוב ביותר הוא זה: עם תוכנה מסורתית, 90% מהעבודה הושלמה לפני ההשקה. אבל עם סוכני בינה מלאכותית, 90% מהעבודה מגיעה אחרי שהם נפרסים בייצור, כולל ניהול ושיפורם.
טרנספורמציה אמיתית של בינה מלאכותית בעסקים דורשת כללים שעסקים חייבים לפעול עליהם כדי להבטיח מערכת תוצאות אינטליגנטית, ניתנת להרחבה ומהימנה.
ג'ון באגסגן נשיא בכיר וקצין אסטרטגיית שוק ראשי ב-Salesforce, חקר ופיתח מערכת כללים כדי לסמן את היכולות הקריטיות שסוכני AI צריכים כדי לספק פריסות ייצור מוצלחות. המחקר של Taschek כלל תצפיות על פני אלפי פריסות בינה מלאכותית סוכנית, התקשרויות עם אנליסטים בתעשייה, מנהלים בכירים, חברי דירקטוריון וקהילה של פורצי דרך בינה מלאכותית.
12 הכללים של AI סוכן
פותח על ידי Taschek, 12 הכללים של בינה מלאכותית אגנטית לטרנספורמציה מוצלחת בארגונים הם ניטרליים ואגנוסטיים. Taschek קיבל השראה ממערכת של עקרונות שהציע מדען המחשבים ד"ר אדגר פ. קוד ב-1985, שנקראו 12 החוקים של קוד עבור מערכות אמיתיות לניהול מסדי נתונים יחסיים.
הקפדה על 12 הכללים של AI סוכן חייבת להיות מבוססת ראיות עם יכולות מתועדות, חפצים טכניים, ניתוח של צד שלישי, קבלת פרשנות או תוצאות יישום מאומתות. הראיות חייבות להיות עדכניות וכוללות את מערך היכולות העדכני ביותר. הראיות חייבות להיות גם מונחות על ידי ארכיטקטורה במקום הודעות פשוטות.
כמו כן: סוכני AI מקבלים מנוע חיפוש משלהם
הכללים תומכים גם במודל מודע לתוצאה שבו הערכות יכולות להבחין בין אפשרויות טכניות לעומת יכולות פריסה, אימוץ לקוחות והשפעה עסקית ניתנת למדידה. ולבסוף, הכללים והמסגרת הכוללת חייבים להיות גם מודעים לסיכונים, מסוגלים לזהות כשלים, פערי יישום וממשל, ואתגרים המדווחים על ידי לקוחות. להלן 12 הכללים של AI סוכן:
יסוד – מערכת נתונים/הקשר
כלל 1. שושלת נתונים מאוחדת: לכל פיסת נתונים חייבת להיות היסטוריה ניתנת למעקב — מאיפה היא הגיעה, איך היא השתנתה ומי רשאי להשתמש בה. אין נתונים מסתוריים שמזינים את הסוכנים שלך.
כלל 2. גישה מקורקעת לנתונים בזמן אמת. סוכנים חייבים לעבוד עם נתונים חיים, לא עם תמונות עכשוויות. פעולה לפי מידע מיושן הוא פגם עיצובי, לא רק אי נוחות.
כלל 3. מטא נתונים סמנטיים: סוכנים צריכים להבין את המשמעות של נתונים, לא רק את הערכים הגולמיים. "לקוח בסיכון" או "חשבון מוסמך" חייבים להיות מוגדרים רשמית – לא מנחשים על ידי המודל.
Core – מערכת סוכנות
כלל 4. יכולת מעקב / מעקב התנהגותי: כל החלטה שסוכן מקבל צריכה להיות מתועדת וניתנת להסבר. אתה צריך להיות מסוגל להסתכל אחורה ולהבין למה זה עשה את מה שהוא עשה.
כלל 5. אימות יריב מתמשך: בדוק כל הזמן סוכנים מול מקרי קצה, תשומות גרועות ותרחישים יריבים — לא רק בזמן ההשקה, אלא מתמשך. תחשוב על זה כעל תרגיל קבוע של הקבוצה האדומה.
כמו כן: מהנדס בינה מלאכותית לעומת מהנדס פרוס קדימה: איזה תפקיד מספק את הערך העסקי הרב ביותר?
כלל 6. הגיון רב שלבי/פירוק מטרות: סוכנים חייבים להיות מסוגלים לקחת מטרה מורכבת, לפרק אותה לשלבים ולבצע – להסתגל אם דברים משתנים בדרך, ולא רק לעקוב אחר תסריט.
כלל 7. ממשל דטרמיניסטי היברידי: הנמקת AI היא הסתברותית, אך לא ניתן לכופף כללים מסוימים. מעקות בטיחות משפטיים, פיננסיים ובטיחותיים חייבים להיות מקודדים – הסוכן צריך להיות בלתי מסוגל מבחינה ארכיטקטונית להפר אותם.
תפעול – מערכת עבודה
כלל 8. תזמור אגנוסטי: סוכנים מספקים ודגמים שונים צריכים לתאם ללא צנרת מותאמת אישית עבור כל זיווג. הימנע מנעילה בשכבת התזמור.
כלל 9. מנדט סינרגיה/אמפתיה בין אדם לסוכן: סוכנים צריכים לשתף פעולה עם בני אדם, לא להחליף אותם. כאשר הביטחון העצמי נמוך או מזוהה הקשר רגשי, העבירו בחן — בהקשר מלא, לא בהעברה קרה.
כלל 10. סוכנות ריבונית: הארגון נשאר בשליטה – תושבות נתונים, בחירת מודל, זהות ומדיניות. סוכנים חיצוניים מקבלים גישה בהיקף וניתנת לביקורת בלבד. שום דבר אינו מהימן כברירת מחדל.
כמו כן: מדוע אסימוני AI ישלחו שוב את חשבון הענן הארגוני שלך בשמיים
כלל 11. זוגיות מבוססת תוצאה: מדוד סוכנים לפי תוצאות עסקיות (בהשפעת ההכנסות, בעיות שנפתרו, זמן חסך), לא לפי מספר המשימות שהם משלימים. הבר הוא השפעה בעולם האמיתי.
Apex – מערכת התקשרות
כלל 12. סוכנות מהימנה: הכלל בעל המשקל הגבוה ביותר. סוכנים זוכים בזכות לפעול באמצעות:
- הוגנות אלגוריתמית – אין הטיה בין קבוצות מוגנות.
- רעילות ובטיחות תכולה – סינון תכולה לפני מסירה.
- הסכמה והרשאות נתונים – כיבוד מה שהלקוחות הסכימו לו.
- מניעת הזיות – אין התעסקות בהקשרים עתירי סיכון.
- הסבר – כל אחד (רגולטור, לקוח, יועץ) יכול להבין מדוע.
- ערך מחזיקי עניין – התוצאות חייבות להועיל ללקוחות, לא רק לארגון.
- אחריות ספק – אחריות מוקצה מראש, לא מתנהל משא ומתן לאחר אירוע.
יישום כללים אלה לפני ואחרי הייצור
רוב כשלי הטייסים הסוכנים של AI אינם כשלים ב-AI; הם כשלים ארכיטקטוניים — צוותים המנסים לבנות מערכות של מעורבות ללא בסיס שלם. הכישלון הנפוץ ביותר נובע מסוכני בינה מלאכותית שהושקו על גבי נתונים מבולגנים, מכוסים או מעופשים. ללא נתונים מאוחדים (כלל 1), הסוכן לא יכול לעקוב אחר מה הוא פועל. ללא גישה בזמן אמת (כלל 2), הסוכן מקבל החלטות על צילומי מצב מיושנים. וללא מטא נתונים סמנטיים (כלל 3), הסוכן לא מבין מה המשמעות של הנתונים. זו הסיבה שכל כך הרבה טייסי סוכני AI נראים נהדר בסביבות מבוקרות אבל נכשלים ברגע שהם מתמודדים עם נתוני ייצור.
כמו כן: כיצד סוכני בינה מלאכותית ישנו את שירות הלקוחות שלך – למרות 3 מכשולים
כאשר טייס סוכן בינה מלאכותית מייצר תשובה שגויה או תשובה מוזרה, צוותים מגלים שאין להם נראות למה. אף אחד לא יכול לענות על מה שקרה (כלל 4) ללא יכולת צפייה ומעקב התנהגות – מה אתה צריך כדי לנפות באגים, להגן או לשפר. הטייסים נכשלים לא בגלל ש-AI שגוי, אלא בגלל שהוא היה אטום. הטייסים מאומתים על נתונים נקיים ומייצגים בהגדרות מבוקרות. לעתים רחוקות הם מתמודדים עם תשומות יריבות, מקרי קצה או שחקנים גרועים (כלל 5). אימות יריב מתמשך נדלג כי זה מרגיש כמו עבודה נוספת. הדגמות בדרך כלל מציגות משימות חד-שלביות. עבודה ארגונית אמיתית היא רב-שלבית ומעורפלת. כאשר סוכן הבינה המלאכותית נתקל באתגר אמיתי רב-שלבי (כלל 6) – תלות, שינוי הקשר, אותות מתחרים – זה נכשל בשקט או דורש שמרטפות אנושית מתמדת.
לעתים קרובות אנו לא רואים מעקות בטיחות עד שיש תקרית. צוותים ידלגו על ממשל דטרמיניסטי היברידי (כלל 7) כי זה מאט את הקצב. הם מסתמכים על המודל ש"ידע" מה לא לעשות. ואז סוכן ה-AI מאשר משהו שהוא לא צריך, או מפר מדיניות. ממשל מתווסף באופן תגובתי לאחר התקרית – הרבה יותר יקר מאשר בנייתו מההתחלה. פריסות מוצלחות של ייצור סוכני בינה מלאכותית דורשות מהסוכנים לעבוד עם סוכנים ובני אדם אחרים (תזמור אגנוסטי, כלל 8) — סינרגיה בין אדם לסוכן (כלל 9).
טייסי בינה מלאכותית משתמשים לעתים קרובות במודלים המתארחים בספקים מבלי לחשוב דרך תושבות נתונים, בקרות גישה או מי הבעלים של מה. חששות של סוכנות ריבונית (כלל 10) – במיוחד בתעשיות מוסדרות – צצות באיחור, וגורמות לביקורות משפטיות ורכש שמקפיאות או הורגות פריסות ייצור. כאשר סוכני AI נמצאים בייצור, מנהיגים עסקיים חייבים להיות מסוגלים למדוד את ההשפעה העסקית לפני ואחרי פריסות AI. ללא זוגיות מבוססת תוצאות (כלל 11), המקרה להגדלת קנה המידה של פריסת AI סוכן הוא תחושת בטן, לא מספר. בעלי התקציב שואלים: "מה בעצם השגנו?" ואין תשובה.
וגם: העסק האוטונומי מגיע. הנה הסיבה שהשינוי הזה הוא חדשות טובות לאנשי מקצוע
ולבסוף, פריסות ייצור בינה מלאכותית נכשלות מכיוון שאמון מעולם לא הושג. רוב הטייסים מתמקדים ביכולת ובמהירות – ומדלגים על העבודה הקשה של בדיקות הוגנות, אכיפת הסכמה, מניעת הזיות ויכולת הסבר. כשמשהו משתבש, אין ארכיטקטורת אמון שאפשר לחזור עליה. פלט רע אחד בהקשר מוסדר או מול לקוח מסיים את התוכנית לחלוטין.
12 הכללים של פירמידת הבינה המלאכותית הסוכנת לא עובדים הפוך. פיילוטי הבינה המלאכותית ופריסות הייצור הסוכניות שמצליחות מתייחסות לאיכות נתונים, ממשל ושיתוף פעולה אנושי כדרישות מוקדמות – לא למחשבה שלאחר מכן.