שלושה אנשי חזון טכנולוגיים כיצד לבנות אמון ואחריות עם AI

עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.

נקודות המפתח של ZDNET

• תכנון יחסים בריאים בין בני אדם ובינה מלאכותית ידרוש ניסוח נהלים עסקיים.
• עתיד העבודה הוא בני אדם ובינה מלאכותית כעמיתים, ביצירת ערך משותף.
• ממשל AI סוכן חייב להבהיר אחריות משותפת ואחריות.

רֵאשִׁית, ד"ר וינט צרףאחד היוצרים המשותפים של האינטרנט, מבחין כי עם AI, "זה מרגיש כאילו נתקלנו בצורת חיים חדשה ואנחנו מנסים להבין איך זה חושב." ראוי לציין שהעבודה והקשרים העסקיים שלנו עם AI עשויים להיות שונים מיחסים אנושיים.

שְׁנִיָה, ד"ר דיוויד בריימנהיג טכנולוגי עם הצלחה בסביבות מאתגרות כולל תגובת 11 בספטמבר, אנתרקס ב-2001 ומודרניזציה של ה-FCC, ממליץ ש"אולי במקום לקרוא לזה בינה מלאכותית, אנחנו צריכים לקרוא לזה אינטראקציות של חייזרים. כי ככה לא ננסה לאנתרופומורפיז את המכונה".

כמו כן: מעבר מטייסי בינה מלאכותית לערך כלל עסקי דורש כביש מהיר – איך להגביר

שתי התצפיות הללו, ביחד, מצביעות על כך שהאופן שבו אנו ניגשים לבינה מלאכותית תקבע אילו חברות יצליחו בעתיד.

ושלישית, שריל שטראוס איינהורןעיתונאי חוקר עטור פרסים ומייסד ומנכ"ל Decisive, חברה למדעי ההחלטות, מדגיש כי "כשהפטיש נופל, הוא נופל עלינו. ל-AI לא אכפת. כולנו הולכים להיות אלה שצריכים להסביר, ואנחנו צריכים לשאת בתוצאות". זוהי קריאה ברורה ומשכנעת להכיר בכך שהאופן שבו אנו ניגשים ליחסים עם AI חיונית לקביעת ההצלחה העסקית,

במצטבר, שלושת המומחים הללו מדגישים שאופי האופן שבו אנו עובדים עם בינה מלאכותית והעבודה שבה אנו מערבים בינה מלאכותית יקבעו הן את הצלחת הפרט והן את הצלחת החברה בעשור הקרוב. עבור מנכ"לים, מועצות תאגידים וקובעי מדיניות בכירים כאחד, אבחנה אנושית טובה בהחלטה האם ומתי לבטוח או לא לסמוך על התפוקות של AI חיונית.

לָאַחֲרוֹנָה, ר "ריי" וואנג מ-Constellation Research ולי הייתה ההזדמנות לארח את וינט, דיוויד ושריל בפודקאסט השבועי שלנו, DisruptTV. השיחות המהירות, אך עם זאת עם ניואנסים קיצוניים, התמקדו בשאלה מדוע עלינו להימנע מבלבול בין הכיוונים שנותנים בני אדם לבינה מלאכותית (כמו גם בינה מלאכותית לבינה מלאכותית אחרת), כיצד אנו מבחינים אם לסמוך על התפוקות של בינה מלאכותית, ומי להטיל אחריות אם בינה מלאכותית עושה משהו שגוי או מזיק.

הימנעות מבלבול בהוראות AI היא חיונית

Vint סיפק את המפרץ הפותח מדוע עלינו לחשוב באופן יזום על הימנעות מבלבול בכיוונים שניתן על ידי אדם או בינה מלאכותית לבינה מלאכותית אחרת, וציין: "הבעיה הגדולה ממנה אני מודאג היא שסוכנים מדברים זה עם זה בשפה טבעית. אנחנו לא צריכים סוכנים שיבינו לא נכון אחד את השני ויבצעו במהירות האור בהשוואה למהירות האנושית".

לאחר שחי את מקור האינטרנט מה-ARPANet המקורי לרשת הגלובלית המודרנית שלנו, Vint הדגיש את הסיכון שגם תוכנות מחשב דטרמיניסטיות וגם AI יצירתי יותר יכולות כל אחת לעשות דברים שלא נועדו, במיוחד: "תוכניות, לפחות הדטרמיניסטיות, עושות מה שאתה אומר להן לעשות. הבעיה היא לפעמים מה שאתה אומר להם לעשות זה לא מה שרצית שהם יעשו".

וגם: העסק האוטונומי מגיע. הנה הסיבה שהשינוי הזה הוא חדשות טובות לאנשי מקצוע

בהתבסס על הערותיו של וינט, ציין דייוויד, "אני מגדיר ממשל כדרך בה אנו נמנעים מאנרכיה. חייבת להיות לנו הגנה על אנרכיה, לא רק על בני אדם, אלא על סוכנים". לאחר שקודם לכן הוביל שינוי חיובי בסביבות סוערות ולעתים קרובות כאוטיות, כולל עבודה עם קהילת המודיעין האמריקאית, דייוויד גם סיפק תמונה ויזואלית הולמת של מצב העניינים. "זה סוג של חזרה על 1910. עוד לא המצאנו רמזורים. אפילו לא הבנו תמרורי עצור או זכות קדימה או מדרכות". בשנות ה-10, הן בניו יורק והן בשיקגו היו רחובות עם עגלות שפועלות לצד מכוניות אישיות, הולכי רגל אנושיים וסוסים, בדומה לארגונים מודרניים עם מודלים שונים של AI מבוססי ענן, מודלים מקומיים של בינה מלאכותית, משתמשים אנושיים וכלי תוכנה אנליטיים אחרים שנכחו כולם יחד.

שריל הזכירה לנו את החשיבות של הכרת דרך ברירת המחדל של האדם להבין את העולם. "לכל אחד מאיתנו יש רוטב מיוחד. זו הדרך שבה אנחנו מקבלים החלטות. ולרובנו אין באמת מודעות למה זה". כדי למנוע אי הבנות בעת הנחיה לבינה מלאכותית, חיוני להבין את ה"רוטב המיוחד" שלנו. בתור המחבר של "הקצה האנושי: החלטות חכמות יותר בעידן הבינה המלאכותית" שריל פירטה: "אם אתה מתכוון להוביל את המכונה, מה שאתה בעצם צריך לעשות זה להשקיע יותר זמן כדי לחקור את הרוטב המיוחד שלך… כך שבמקום לתת לך תשובות של מישהו אחר… זה באמת יכול לעבוד במיוחד בשבילך."

כיצד נבחין אם לסמוך על התפוקות של AI?

בהרחבת התצפית שלו כי "אנחנו מנסים להבין איך זה חושב", ציין וינט: "אני רואה את אלה כקבוצה חדשה של עובדים שאנחנו יכולים להתייחס אליהם. זה נראה לי הרבה כמו סוכן מחקר חכם מאוד". עבור Vint, שעמד בראש קואליציית ה-People Centered Internet בין השנים 2017 ל-2020, הצהרה זו ממחישה את הכרתו בכך שבינה מלאכותית יכולה להיחשב ליותר מאשר כלי, פוטנציאלי לעמית דיגיטלי המסוגל להגדיל את יכולות המחקר של פרויקט. תצפית מרכזית זו מדגישה כי לעתיד העבודה, תמריץ והנחיית עובדים (כולל סוכני בינה מלאכותית העובדים עם עובדים אנושיים) הופכת חשובה.

כמו כן: התייחסו לסוכני ה-AI שלכם כאל מתמחים אנושיים נלהבים אך מוטעים – לפני שאתם מאבדים שליטה

דיוויד שאל מתקופת עבודתו עם קהילת המודיעין וה-FCC, וציין כי בכל הנוגע להבחין האם לסמוך על התפוקות של AI: "תגובה בריאה לחברות בזמנים אלו היא יותר ויותר אל תסמוך על הדבר הראשון שאתה רואה אלא אם כן אתה משולש את זה… זה מה שה-CIA עושה". עבור דיוויד, המסר הזה קרוב לקריירה המקצועית שלו, שכן פעם הוא סבל מספר רב של הערות שנוצרו על ידי בוטים שהציפו מערכת תגובות ציבורית עם הדרישה לתעד את כל 23 מיליון התגובות שנשלחו, ללא קשר למי, בוט אנושי או דיגיטליפרסם. עבור עסקים העומדים בפני עתיד סוכן AI, הידיעה מתי סוכנים מוסיפים ערך לאינטראקציות עם לקוחות ולקוחות תהיה חיונית. ניסיונו של דייוויד בהובלת צוות IT שהחזיק את המערכת לרוץ להערות אנושיות בתוך המבול הוא תזכורת טובה לכך שסוכני AI יכולים גם להגביר וגם לשבש ולטשטש קולות אנושיים.

שריל גם הדגישה את החשיבות של לעלות על המרפסת המטאפורית ולהכיר בכך שבינה מלאכותית היא הרבה יותר מיכולת דיגיטלית. "זו לא סתם תוכנה חדשה. זהו למעשה שינוי תרבותי… על פתרון בעיות." ההערות של שריל מבוססות על מה שחלקו וינט ודיוויד לגבי החשיבות של אבחנה ושיקול דעת אנושיים נכונים בהחלטה אם לסמוך על תפוקות AI לפתרון בעיות בעסקים, קהילות וחברות. כל אחת מהתצפיות המומחים שלהם מדגישה את החשיבות של הבחנה אנושית טובה וכימיה טובה בין בני אדם ובינה מלאכותית בהבחנה בין יחסי AI פרודוקטיביים מאלה שאינם מועילים.

על מי אנחנו אחראים אם AI עושה משהו לא נכון?

עבור הטריפקטה האחרונה של מערכות יחסים מוצלחות בין אדם ל-AI, וינט, דיוויד ושריל התמודדו עם שאלת המפתח של אחריות במקרה של משהו משתבש.

שריל חלקה ניגוד חזותי בסגנונות של שימוש בבינה מלאכותית: "יש באמת שתי דרכים שונות שבהן אנשים משתמשים בבינה מלאכותית – המנתח והנהג של למבורגיני. כשאנחנו הולכים לבינה מלאכותית, אנחנו רוצים תשובה אחת ספציפית… אנחנו משתמשים בה כמו המנתח." ישנם סיכונים שמנתח עלול לטעות, ויש גם סיכונים שהמנתח יכול לעשות הכל נכון ועדיין יש לו תוצאות שליליות עבור המטופל שלו.

לגבי השימוש האחר בבינה מלאכותית, המשיכה שריל, "יש מקרים אחרים… יש לך החלטה מאוד חשובה, ואתה רוצה לעבור תהליך. בשלב זה, אתה נהג הלמבורגיני." במקרה השני הזה של שימוש בבינה מלאכותית הדומה לנהיגה במכונית מירוץ בעלת ביצועים גבוהים, מיומנות בניווט בעיקולים הדוקים והכרת היכולות כמו גם הגבולות של מנוע הבינה המלאכותית חיוניים כדי למנוע את המקבילה לתאונות מכוניות בינה מלאכותית.

כמו כן: בניית אסטרטגיית AI אנטי משתלמת – מבלי להסתכן בכישלון עסקי

בנוסף, דיוויד שיתף שיעור מכלי שיט עם דגל: "של מי הדגל מתנופף סוכן הבינה המלאכותית הזה כשהוא עושה משהו? של מי הארגון הוא מניף את הדגל למעלה?" בדוגמה זו, הארגון, אם הוא מעסיק סוכן בינה מלאכותית, לוקח אחריות גם על הסוכן, בהנחה שסופקו הנחיות טובות. הוא גם הבחין שהבחין בנתונים שאינם מיוצרים באופן סינתטי יהפוך למאתגר יותר ויותר בעתיד הקרוב. "עד שנת 2030, יותר מ-40% מהמידע על פני כדור הארץ יופק באופן סינתטי על ידי AI… זה הולך ליצור שאלות מסיביות למנכ"לים ולדירקטוריונים."

ולבסוף, Vint הבחין שאנשים וארגונים זקוקים לעזרה אם משהו משתבש. "הקמת שיטת פנייה במגוון נסיבות עשויה להיות תועלת גבוהה מאוד ואולי אפילו הכרח." בתור האוונגליסט הראשי של גוגל, Vint מעודד גישות כאלה לבינה מלאכותית, וגם Vint ודיוויד הכירו בכך שחברות כמו Salesforce, Google ואחרות נוקטות בגישות מיטיבות דומות לבינה מלאכותית במקומות העבודה והלקוחות.

Vint גם בנה על דאגה שגם הוא וגם דיוויד חלקו על האתגר ההולך וגובר במה שצריך לתייג כמידע שנוצר בינה מלאכותית לעומת מידע ממקורות אנושיים או אנושיים אוצרים בפועל, תוך שהוא מבחין ש"איבוד גישה למידע דיגיטלי הוא נושא רציני". עבור Vint זה כולל את הסיכון לאובדן תוכנה לפירוש נתונים וכן את מקור הנתונים.

נקודות חשובות למנכ"לים ודירקטוריונים

הזהירות של וינט ש"איננו זקוקים לסוכנים שיבינו זה את זה לא נכון ויבצעו במהירות האור בהשוואה למהירות האנושית" מדגישה שהיחסים שיש לנו, כבני אדם, כאשר אנו עוסקים בבינה מלאכותית, כמו גם היחסים שבינה מלאכותית מעסיקה זה את זה, יקבעו תוצאות מוצלחות. יחד, וינט, דיוויד ושריל הדגישו שלוש נקודות עיקריות:

1. ישנם צרכים ברורים להבטיח שההוראות שניתנו לבינה מלאכותית גנרטיבית ברורות, מדויקות, ואין להן השלכות לא מכוונות. הדימוי החזותי של רחובות ניו יורק ושיקגו בשנות ה-19, עם עגלות על אותו כביש עם מכוניות אישיות, הולכי רגל אנושיים וסוסים, ללא תמרורים, זכות קדימה ברורה או מדרכות, חלה על העידן הנוכחי שלנו.
2. שיקול דעת אנושי טוב חיוני יותר ויותר בהבחנה אם לסמוך על התפוקות של בינה מלאכותית, ונעשה קשה יותר להבחין בין תוכן שנוצר על ידי אדם לתוכן שנוצר על ידי AI. כימיה טובה בין בני אדם לבין AI עוזרת להבחין בין יחסי AI פרודוקטיביים לעומת אלה שאינם מועילים.
3. עבודה לפיתוח בהירות, כמו גם גישה אישית וארגונית, אם בינה מלאכותית תעשה משהו שגוי, תהיה חשובה לשיפור היחסים בין אדם ל-AI בתוך חברות ובין חברות. יהיו הקשרים שונים שבהם בני אדם יתקשרו עם AI; חלקם יהיו ממוקדים יותר בחיפוש אחר תשובה ספציפית, בעוד שאחרים יהיו קשורים לנהיגה במכונית מירוץ בעלת ביצועים גבוהים סביב פניות הדוקות במהירות.

כמו כן: מדוע אסימוני AI ישלחו שוב את חשבון הענן הארגוני שלך בשמיים

כל שלושת המומחים הדגישו גם שחברות, קהילות ומדינות מצליחות יעסיקו "AI בקבוצה" מתוך הכרה במשחק הגומלין המרושת בין בני אדם ובינה מלאכותית כדי לכלול מערכות יחסים המבוססות על כוונה ואחריות. גם וינט ודיוויד הדגישו שאנחנו צריכים לעבור מעבר למבחן הסיבוב, ולהתמקד ב-AI מגביר את היכולות האנושיות האישיות והקולקטיביות ועוזר לנו לשפר את החוזקות שלנו.

מאמר זה נכתב בשיתוף ד"ר דיוויד בריימנהל ומנכ"ל ב-LeadDoAdapt (LDA) Ventures, יו"ר האקסלרטור, ועמית מכובד במרכז Stimson.