40% מהארגונים יבטלו סוכני AI – 3 דרכים להבטיח שהשלך לא ייכשל
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- העברת סוכני AI לייצור יכולה להיות שאלה קשה.
- אנשי מקצוע חכמים מתמקדים בממשל ובמסגרות.
- הם עובדים עם מומחים ומבטיחים תוצאות ברורות.
יש הרבה הייפ לגבי הפוטנציאל של סוכני AI, אבל פחות הוכחות לכך שהכלים מייצרים החזר על ההשקעה.
אנליסט הטכנולוגיה גרטנר חזה את זה לאחרונה 40% מהארגונים יורידו או יוציאו סוכני AI אוטונומיים עד 2027 עקב פערי ממשל שמזוהים רק לאחר תקריות מתרחשות כאשר סוכנים אלו נמצאים בייצור.
כמו כן: AI גורם לעייפות קוגניטיבית. הנה איך לעבוד ביתר חיפזון ובפחות מהירות
בפסגת Snowflake לאחרונה בסן פרנסיסקו, שלושה מנהיגים דיגיטליים הסבירו כיצד הארגונים שלהם מכניסים סוכנים לייצור. הם חלקו שלושה שיעורים לאנשי מקצוע אחרים המעוניינים לנצל AI: שימוש במסגרות, ניצול מומחים ויצירת רווחים בנתונים.
1. התמקדות במסגרות
מאט לואיזי, סמנכ"ל אנליטיקה במומחה טכנולוגיות לבישות Whoop, אמר שהארגון שלו אוסף נתונים ביומטריים 24/7 כדי לספק את תובנות הבריאות והבריאות שלו, כאשר Snowflake תומך בשירותי הניתוח הפנימיים של החברה.
Luizzi אמר שסוכנים ממלאים תפקיד חשוב יותר ויותר בתהליך הזה, במיוחד Snowflake CoCo, סוכן הקידוד של מומחה הטכנולוגיה למפתחים ומהנדסי נתונים.
"אנחנו משתמשים ב-CoCo כבר כמה חודשים, והתחלנו רק עם צוות הניתוח, שהוא אנשים שיכולים להסתכל במהירות על תגובת שאילתה ולומר שזה נכון או לא, ולנסות להבין איך להרחיב את התהליך הזה", אמר.
"עכשיו אנחנו בנקודה שבה יצרנו מסגרות הערכה רשמיות יותר ומתחילים לגלגל סוכנים בקנה מידה".
כמו כן: עזוב את הפרודוקטיביות: הנה 5 שינויים אסטרטגיים שמניעים ערך AI אמיתי
Luizzi אמר שלחברה יש מהנדסי תוכנה שפורסים בדיקות A/B ומשתמשים ב-CoCo כדי לנתח את התוצאות, להציע את התכונה הבאה, לבדוק אותה ולחזור עליה.
"גישה זו מאיצה במהירות את הדרך בה אנו שולחים לא רק ערך עסקי, על ידי אוטומציה של מסגרת הניסויים, אלא גם את ערך הלקוח", אמר.
לואיצי אמר שהארגון שלו התמזל מזלו שהצנרת הבסיסית כבר הייתה במקום לחיפושים הסוכנים שלו, בגלל שהנתונים של החברה מרוכזים בפלטפורמת Snowflake. הם השתמשו בשירות Cortex AI של החברה כדי להתחיל לבדוק סוכנים וללמוד לקחים.
"למדנו מהר שהקשר הוא הכל", אמר. "זה אומר באמת להישען אל הרובד הסמנטי ולוודא שההקשר נמצא במקום מובנה."
כמו כן: מדוע עזבתי את Copilot עבור קלוד ב-Word, Excel ו-PowerPoint – ואיך אתה יכול גם
Luizzi אמר שלקח מרכזי הוא שמסגרות חיוניות למחקרי בינה מלאכותית מוצלחת.
"אנחנו מנסים לעשות הכל בצורה יותר ניתנת לחזרה, באותה דרך שעשינו עם ארכיטקטורת הנתונים שלנו בעשר השנים האחרונות", אמר. "בניית מסגרות שניתן לחזור עליהן המאפשרות לנו להגדיל את עומסי העבודה של AI זה משהו שאנחנו לוקחים איתנו קדימה."
2. השתמש באנליסטים מומחים
Madeleine Want, סמנכ"לית הנתונים של מומחה הספורט Fanatics, מנהלת הנדסת נתונים, מדעי נתונים ולמידת מכונה ברחבי חטיבת ההימורים והמשחקים של הארגון, כאשר פעילות זו נתמכת על ידי פלטפורמת Snowflake.
"כשהתחלנו להתנסות, לא היינו בטוחים מה יידבק ומה יחליק, אבל גילינו שמה שנתקע הוא ככל שמצב הנתונים הבסיסי טוב יותר וככל שהממשל שלהם טוב יותר, כך ה-LLM הצליח להפיק משמעות ולענות על שאלות בצורה יעילה יותר", אמרה.
כמו כן: כיצד השקת הבינה המלאכותית של חברת הנסיעות הזו הביאה לזריקת שביעות רצון של 73%: ספר הפעלה בן 5 שלבים לעסק שלך
למרות שההתמקדות הזו בנתונים וממשל אולי נשמעת כמו דבר מובן מאליו, אמר וונטה, זה בהחלט לא היה המקרה לפני 18 חודשים.
"היה לנו ניסיון רב כארגון בונה מודלים של למידת מכונה מותאמים אישית, אז היה קשה להאמין שהרעיון של ייבוא מודל של צד שלישי ופשוט להדביק אותו ממש על גבי הנתונים יכול לעבוד לניתוח. אבל עכשיו הגישה הזו מוטמעת מאוד באופן שבו אנחנו עושים הכל", אמרה, לפני שהתארה כיצד הארגון שלה עבר מחקירה לניצול.
"הייתה לנו הצלחה בשלב מוקדם בתחומים שהיו מוגבלים היטב בהקשר, ושם היו לנו אנליסטים מומחים שהבינו את התחום העסקי מלמעלה למטה והצליחו לאמן את הסוכן".
רוצה אמרה שהארגון שלה זכה ליותר הצלחות לאורך זמן. ההשקעה שהם צריכים לעשות בשכבת ההקשר הולכת ופוחתת, וכך גם מידת הפיקוח שגורם דורש לפני שהוא יכול להתחיל לענות על שאלות באופן אוטונומי.
"היכולת שלנו למדוד את הדיוק של התשובות הולכת וגדלה, כי אנחנו מציגים כעת מסגרות הערכה מוקטנות, שעוזרות לנו להיות בטוחים איך הסוכנים עונים כשאנחנו לא מסתכלים, וזה בערך כל העניין".
כמו כן: סוכני AI מודאגים יחליפו אותך? 5 דרכים שבהן תוכל להפוך חרדה לפעולה בעבודה
רוצה אמר שההצלחות הללו אומרות שהיקף הסוכנים הולך וגדל. במקום להיות מוגבל רק לניתוחים, אנשי מקצוע אחרים רואים את היתרונות ורוצים לחקור סוכנים.
בעוד Fanatics עדיין משתמשת בממשקים ובסוכנים של Snowflake, החברה מטמיעה ממשקי API ותגובות בכלים אחרים של צד שלישי כדי שאנשים יוכלו לעשות יותר עם תובנות מבוססות נתונים.
"משתמשים רוצים ללכת רחוק יותר ולעשות יותר עם מקרי שימוש מבצעיים", אמרה. "אנשים דורשים להיות מסוגלים לגשת לתובנות הללו דרך מגוון ערוצים שונים ומדיי צריכה, כי הם צריכים להיות מסוגלים להשתמש בנתונים היכן שהם עובדים."
3. ייצר רווח מהנתונים שלך
Sriram Sitaraman, CIO במומחית התוכנה Synopsys, אמר שהארגון שלו הוא לקוח ותיק של Snowflake שמשתמש בפלטפורמת הנתונים ובשירותים הסוכנים שלה, כמו CoCo, כדי להניע את תהליכי קבלת ההחלטות שלו.
לפני כ-18 חודשים, אמר Sitaraman שהחברה זיהתה את הפוטנציאל של סוכני בינה מלאכותית למלא את המשימות של עובדים זוטרים, כמו הפעלת שאילתות מהירות, יצירת גרפים והפקת תובנות.
"ניצלנו את היכולת הזו, ואמרנו, 'בסדר, תראה, אם ניצור סוכן ידע, נוכל להתחיל לפרוס אותו במספר מימדים'".
כמו כן: 90% מפרויקטי הבינה המלאכותית נכשלים – הנה 3 דרכים להבטיח ששלכם לא
דוגמאות כוללות סוכן הכנסה עבור מחלקת הכספים שמפעיל דוחות וסוכן ניפוי באגים עבור מערכת הכרטוס הקשורה למרכזי הנתונים של החברה.
Sitaraman אמר שהצוות העריך את הפוטנציאל של AI על פני שלושה מימדים: איכות התוצאות, זמן עד לתוצאות ועלות התוצאות.
הם גילו של-AI יש השפעה חיובית בכל שלושת התחומים, שלדבריו היא פריצת דרך משמעותית: "בעבר, היית צריך להקריב את זה או את זה".
כעת, במקום שתצטרך לתכנת מחדש מערכות בכל פעם שמודל הבינה המלאכותית משתנה בהתאם להקשר, אפשר להתמקד בתובנות במקום לדאוג לדאגות הבסיסיות.
"התחל עם נתונים – עשה רווח מהנתונים שלך באמצעות AI", אמר Sitaraman, כשהוא משקף את המסע הסוכן של החברה שלו. "זה לא משנה כמה נפח אתה זורק ביוזמה, כי בינה מלאכותית היא פשוט באמת קנה מידה ליניארי. ככל שיש יותר נתונים ל-AI, כך היא מקבלת החלטות טובות יותר".
כמו כן: 5 דרכים להשתמש בבינה מלאכותית כשהתקציב שלך מצומצם
עם זאת, גם סיטארמן הוציא אזהרה. "דבר אחד שהבנו הוא שאין הרבה הבדל היום בין אוטומציה לאוטונומיה, ולכן אתה צריך להיות זהיר", אמר.
"האם ברצונך להפוך תהליך לאוטומטי או שברצונך ליצור למעשה סוכן, הכולל מבנה עלויות, דפוס שימוש וממשל שונה?"
Sitaraman עודד אנשי מקצוע לזהות את מקרי השימוש הנכונים, לבנות את המסגרות הנכונות, ולעולם לא לזלזל במה שסוכן יכול לעשות.
"אתה יכול לגלגל סוכן ולהגיד, 'זהו סוכן מבצעי מכירות'. לעתים קרובות, אין שום דבר שמפריע לו להפוך גם לסוכן אנליסט מכירות או סוג אחר של סוכן", אמר.
"אז, חשוב לשאול, 'זה מה שאנחנו רוצים שזה יעשה?' מסגרות חשובות מאוד, וכך גם מיומנויות. אתה צריך לחשוב היטב על התהליך".