כאשר נתונים נחשפים מביאים לעצירה חריפה של השקת AI – וכיצד לנהל אותם
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- AI יכול להגביר את הפרודוקטיביות ולשפר את הגישה לנתונים.
- מנהיגי טכנולוגיה נאלצו לעצור את ההשקה עקב חששות בנתונים.
- תובנות ארוכות מעורפלות מופיעות עם הנחיות בינה מלאכותית.
בינה מלאכותית וגנרטיבית פתחה מידע ותובנות לאנשי מקצוע בארגונים. עם זאת, עדויות מצביעות על כך שמגמה יכולה להיות יותר מדי מהדבר הטוב. בכנס שנערך לאחרונה, ותיקי השקות בינה מלאכותית ארגוניות פרסמו דברי אזהרה לאנשי מקצוע השוקלים לצלול בראש בינה מלאכותית.
הבעיות בהן נתקלו אנשי מקצוע אלו הובילו לעצירות זמניות בהשקת AI שנועדה להגביר את תפוקת העובדים, שכן מנהלים העריכו מחדש מידע שעלול להיחשף באופן פנימי. במקביל, המנהלים, שדיברו בפאנל בכנס Veeam האחרון בניו יורק, הדגישו שבינה מלאכותית אינה מקור האתגר. שני הארגונים של חברי הפאנל צברו מאגרים עצומים של נתונים, ואחד מהם דרש מבנה ממשל חדש.
כמו כן: 96% ממקצועני ה-IT משתמשים ב-AI כעת: 7 היישומים הסוכנים המובילים שלהם ומחסומי היישום הגדולים ביותר שלהם
סטיב מקינטייר, סגן נשיא בכיר ב-Fidelity Investments, תיאר כיצד החברה שלו, המונה 400,000 עובדים, ראתה נתונים שהוצבו זה מכבר בנבכי הארגון שלה – באתרי SharePoint או באחסון המחובר לרשת, למשל – צצו לפתע באמצעות הנחיות בינה מלאכותית. "זו לא הייתה בעיית AI", אמר. "זו הייתה הפרודוקטיביות והיכולת של AI למצוא דברים במהירות."
Wim Geurden, ארכיטקט ראשי לטכנולוגיה ארגונית ב-EY, תיאר את האתגר של החברה שלו בהצמדת בעלות על נתונים ברחבי הרשת הגלובלית של שותפים עצמאיים שלה – נתונים שעלו גם דרך מנוע ה-AI שלה. "כשהושק חיפוש ארגוני גדול, כל מיני דברים התחילו לצוץ במקומות שאנשים הלכו אליהם", אמר.
"EY Global לא מחזיקה באף אחד מהנתונים. כל חברה חברה היא הבעלים של הנתונים שלה. שם הועלו השאלות הראשונות. מה זה כל זה? כמה אתרי SharePoint? היו לנו מספר פטה-בייט של נתונים, וזה היה המערב הפרוע. לא היה ניהול מחזור חיים באתרי SharePoint האלה, ולחצי מהם לא היו בעלים. לא ידענו מתי ניגשו אליהם לאחרונה".
גַם: 51% מאנשי המקצוע אומרים שעבודת AI מורידה את הפרודוקטיביות שלהם – עצור את זה בשני שלבים
ב-Fidelity, מידע צץ מספרייה עצומה של דוחות PowerPoint ו-PDF. "יש לנו היסטוריה שלמה, עשרות שנים של הערות מחקר ב-Fidelity, כמו קובצי PDF", אמר MacIntyre. "חילקנו כמה רישיונות עבור Copilot, ומיד, יומיים לאחר מכן, משפטי בא אלי ואמר שיש לנו בעיית בינה מלאכותית. אחד מהצוות שלי עשה חיפוש כדי למצוא משהו ובינה מלאכותית חזרה עם כל הפאוור פוינט שהיו ב-SharePoint מלפני שנים".
AI הוא "מנוע חיפוש אדיר שפועל במהירות", המשיך MacIntyre. "פתאום, הוא מחפש בכל מה שיש לו גישה אליו, ומציג לנו את זה בצורה משמעותית. כולם חשבו שיש לנו בעיית בינה מלאכותית, אבל מה שהוא הראה זו בעיה של אבטחת נתונים. הבעיה הזו הגיעה הביתה כשהבנו מיד שיש לנו את כל הנתונים האלה שלא חשבנו שאכפת לנו מהם – נתונים לא מובנים – ויחד עם זה הגיעו ל-LLMs של כל זה, ופתאום הפכו לנתונים זהב".
הקמת מעקות בטיחות
ב-EY, כשהשערים של מאגרי המידע העצומים שלה נפתחו ל-AI, העדיפות הייתה "למצוא מי הבעלים של הנתונים", אמר ג'ורדן. "הדבר השני שעשינו זה שסגרנו הכל". משתמשים יכלו לגשת לכלי Copilot רק אם היו להם רישיון.
גַם: בניית אסטרטגיית בינה מלאכותית שמשתלמת – מבלי להסתכן בכישלון עסקי
תהליך אימות הבעלות על הנתונים כלל זיהוי ותווית הנתונים שנמצאו ברחבי מפעל EY, המשיך Geurden. לדוגמה, התוויות כללו "סודיות" או "שירותים פיננסיים".
AI עצמה הציעה אמצעי לעזור לתייג את מאגרי הידע של החברה של נתונים לא מובנים, הסביר Geurden, וציין את האתגר של תיוג אנושי עם קצב מחזור שנתי של 25%.
עם זאת, תיוג צריך להעמיק יותר מתגים פשוטים ברמה גבוהה. "הדבר הראשון הוא שאנחנו צריכים לדעת מה היה שם כשה-AI רץ", אמר גירדן. "צריך לקבל את התמונה ההיסטורית, את הגרסאות". לאחר מכן, "אנחנו צריכים ללכת הרבה מעבר לתיוג של מידע סודי. אנחנו צריכים שיהיו לנו הגבלות גיאוגרפיות, תיוג גיאוגרפי, תיוג קו עסקי, המקושרים לחוזים שלנו, כי אנחנו מקבלים כמות עצומה של נתוני לקוחות המפרטים מה אנחנו יכולים לעשות ומה אנחנו לא יכולים לעשות".
גַם: למעלה מ-80% מסוכנויות ממשלתיות בארה"ב כבר משתמשות בסוכני בינה מלאכותית – וזו רק ההתחלה
את כל המטא-נתונים האלה צריך לעצב בחוזים, הוא הוסיף: "זה החלק הקל. אחר כך אנחנו צריכים לקודד את זה באיזה מבנה טכנולוגי. זה, בינתיים, עדיין מאוד מאוד מסורבל".
ממשל הוא המפתח להצלחה בכל ההיבטים של יישומי AI אלה, הדגישו המנהלים. "אנחנו חייבים לדעת במה נעשה שימוש," אמר מקינטייר.
"זה מביא לידי ביטוי את הרעיון של Shadow AI, Shadow IT, כל מיני דברים כאלה – וזה חוזר לנתוני נקודות הקצה. אנחנו חייבים לדעת שמלאי הנכסים מדויק. האם הם מתאימים למקרי השימוש שנרשמו ומאושרים? ככה, לפחות אנחנו יודעים שאם מישהו עובד על משהו, הוא צריך להשתמש בקלוד, כי זה היה קשור לפרויקט מסוים".
כמו כן: 4 פגיעויות AI קריטיות אלו מנוצלות מהר יותר ממה שמגנים יכולים להגיב
לאחר מכן, "עלינו לחשוב מהי הסביבה הבטוחה שבה אנו רוצים שהסוכנים הללו יפעלו?" MacIntyre המשיך: "איך אנחנו רוצים שהם יתקשרו עם המודלים הבסיסיים? איזו ארכיטקטורה אנחנו שמים כדי להעביר את כל הפעילות הזו למקום שנותן לנו את הנראות והטלמטריה הנכונים כדי שנוכל לראות שסוכנים ויישומים המשתמשים ב-AI מתנהגים בצורה שנועדה? או מתנהגים בצורה לא נכונה?"
אתגר נוסף – אולי המטריד ביותר עבור כל המנהיגים הדיגיטליים בשלב זה – הוא ביסוס זהות הסוכן, אמר מקינטייר: "איך נותנים לסוכן זהות? אז הם הופכים לעובדים. אבל מה אם הסוכן שלי יחיה רק שניות? זו בעיה ממש מעניינת, ואני לא יודע אם מישהו פתר אותה ממש טוב עדיין".