רגולציה חלשה של AI גרועה מחוסר רגולציה, טוענים החוקרים
לפי מחקר חדש פורסם ביום שני בכתב העת Proceedings of the National Academy of Sciences.
תוך שימוש בכלכלה תיאורטית ועקרונות תורת המשחקים, קבוצה של חוקרים מאוניברסיטת קורנל וקרנגי מלון יצרה מודל תיאורטי שמטרתו להראות כיצד רגולציה של AI יכולה להיות היעילה ביותר בהבטחת בטיחות. הם גילו שלמען בטיחות אמיתית, הרגולציה צריכה להיות קפדנית תוך התמקדות בחברות שמפתחות מודלים של בינה מלאכותית (כגון OpenAI, Google ו-Anthropic), במקום להתמקד אך ורק בחברות במורד הזרם שמיישמות את הטכנולוגיה בסביבה אמיתית, כמו חברות המספקות מערכות אבחון רפואיות בינה מלאכותית או צ'אטבוטים של שירות לקוחות מסחר אלקטרוני. למרות שעצם הבחירה להסדיר את מקרי השימוש הספציפיים של בינה מלאכותית "עשויה להיראות הגיוני" בהתחלה, המחברים טוענים שזה יכול להזיק ולהפחית את הבטיחות הכוללת של מוצרי בינה מלאכותית.
הסיבה לכך היא שכשהממשלה מתמקדת ברגולציה של חברות במורד הזרם ונותנת למפתחי מודל בינה מלאכותית לצאת מהקרס, מפתחי בינה מלאכותית למטרות כלליות נוטים לקצץ באמצעי בטיחות כמו ביקורת של צד שלישי, בתקווה שהחברות במורד הזרם יבטיחו את בטיחות המוצר הסופי במקום זאת.
"יש התנהגות של רכיבה חופשית שמתרחשת", לדברי המחבר הראשי של המחקר בנימין לאופר. "הרגולציה פועלת ככלי עבור הספק הכללי להוריד את נטל הבטיחות על המומחה במורד הזרם."
המחקר מגיע בזמן שממשלת ארצות הברית ועמק הסיליקון מנסים להבין כיצד יש להסדיר בינה מלאכותית. שני מחנות עיקריים נוצרו בתגובה. בצד אחד עומדים הטכנולוגים נגד הרגולציה, אשר רואים בדעתם מעקות בטיחות פדרליים קלים בהרבה שמתיישרים במידה רבה עם הגישה של ממשל טראמפ לממשל בינה מלאכותית. קבוצה זו נוטה לומר שתעשיית הבינה המלאכותית צריכה להיות נקייה ממעקות בטיחות מיותרים כדי לחדש מהר ככל האפשר, כי זו הדרך היחידה שבה ארצות הברית יכולה לנצח במירוץ הבינה המלאכותית העולמית מול סין.
קבוצת תומכי החדשנות המוצהרת נוטה גם לעצב את המחנה היריב, המצדד בתקנות בטיחות AI מחמירות יותר, שכן דומים במקרה הטוב וכניסיון לכידה רגולטורית במקרה הרע. עם זאת, התומכים ברגולציה הפדרלית המחמירה של בינה מלאכותית טוענים שבמרדף אחרי שולי רווח רחבים יותר, תעשיית הבינה המלאכותית מזלזלת או שוקלת פחות את הסיכונים של פיתוח בינה מלאכותית, ורשימת החסרונות לכאורה כוללת הכל, החל מפסיכוזה של בינה מלאכותית ועד להשלכות הבריאותיות הקהילתיות של מרכזי נתונים ומשבר אבטלה שצפוי לאמץ הרבה אחרי משבר האבטלה הרחב שצפוי לאמץ.
אבל מחברי המחקר החדש טוענים שבטיחות מול הכנסה לא חייבת להיות מצב של או או. על פי המודל, "רגולציה חזקה יותר וממוקמת היטב יכולה להועיל הדדית לכל השחקנים" על ידי שיפור הן בבטיחות המוצר הסופי והן בשיפור השירות של יוצרי AI למטרות כלליות ומומחי הדומיינים במורד הזרם. החוקרים מגדירים את השירות כנתח הכנסות מינוס עלות ההשקעה.
המקום המתוק כביכול קיים כאשר הרגולטורים מצפים הן מיצרני AI למטרות כלליות והן מהחברות במורד הזרם להשקיע מספיק השקעה כדי לעמוד בתקני בטיחות משמעותיים. המצב הוא דוגמה קלאסית של א דילמת האסירבעיה של תורת המשחקים שבה שני מקבלי החלטות רציונליים מקבלים את האפשרות לשתף פעולה או לבגוד זה בזה. אם שניהם יבחרו לשתף פעולה, אז הם יקבלו את התוצאה הטובה ביותר, אבל אף אחד לא יודע במה השני יבחר. אם שניהם בוגדים זה בזה, אז הם מקבלים תוצאה בינונית, אבל אם אחד מחליט לשתף פעולה בעוד השני בוגד, אז הנבגד מקבל את התוצאה הגרועה ביותר. לא בטוח במה יבחר המשתתף השני, מקבל ההחלטות בוחר לעתים קרובות לבגוד ולהבטיח את התועלת שלו, מה שמבטיח תוצאה גרועה יותר לכולם מאשר שיתפו פעולה. רגולציה קפדנית לחברות בכל שרשרת האספקה של AI תבטיח אמון ולא נסיעה חופשית, ותספק את הבסיס לשיתוף פעולה ואת התוצאה האידיאלית ביותר לכולם, טוענים החוקרים.
"אנשים חושבים על בינה מלאכותית כאובייקט יחיד, אבל למעשה בינה מלאכותית כוללת קבוצה מאוד מסובכת של בעלי עניין ושחקנים שלכל אחד יש תרומה משלו לטכנולוגיה", אמר לאופר. "כדי להסדיר בצורה מחושבת, עלינו לשקול את כל שרשרת האספקה, לא רק ספק או ישות בודדת."