הצהרה חדשה מזהירה שבינה מלאכותית עלולה לאיים על יסודות המתמטיקה
מתמטיקאים מציבים כמה גבולות. היום, 16 מתמטיקאים בהתייעצות עם עמיתים וארגונים רלוונטיים פרסמו את הצהרת ליידן על בינה מלאכותית ומתמטיקה.
ההצהרה, שמשכה יותר מ-130 חותמים עד למועד הפרסום, מתארת אתגרים מרכזיים ששימוש נרחב בבינה מלאכותית מציב למחקר במתמטיקה, כמו גם המלצות לחוקרים בודדים, ארגונים, ממשלות ומפעלים מסחריים.
"אני לא מצפה מכל עמית להסכים עם כל משפט בהצהרה", כתב כריסטוף סורגר, מזכ"ל האיגוד הבינלאומי למתמטיקה (IMU), ב- עַמוּדָה באישור IMU להצהרה. "זה מבקש מהקהילה המתמטית להגיב בצורה שקופה ומונחה על ידי ערכי המשמעת שלנו."
"לא היה קל להגיע לקונצנזוס על טקסט שלם, והתהליך בחן את הסבלנות של כולם", רודריגו אוצ'יגמהאנתרופולוג של AI באוניברסיטת ליידן בהולנד, שהיה מעורב בהצהרה, אמר ל-Gizmodo. "עשינו זאת בדרך הקשה: החלטנו לפרסם את הטקסט רק כשהגענו לקונצנזוס מלא, לאחר שאספנו משוב נרחב ממגוון רחב של אנשים והתלבטנו על כל נקודה לפרטי פרטים".
פורסים דברים
המסמך בן 11 העמודים הגיח מא סַדנָה שנערך בספטמבר בשנה שעברה. שיהיה ברור, ההכרזה אינה מוקיעה את השימוש ב-AI במחקר מתמטי. במקום זאת, הוא מטיל ספק במה זה באמת אומר להשתמש ב-AI "באחריות", בהקשר של ערכים כמו דיוק, שקיפות ומשקל השיפוט והיצירתיות האנושיים מאחורי פריצות דרך מתמטיות.
ללא סימון, התקדמות הבינה המלאכותית במתמטיקה מציבה את "האוטונומיה של המתמטיקה בסכנה", נכתב בהצהרה. לדוגמה, ההצהרה טוענת שקשה לשלב הוכחות שנוצרו על ידי בינה מלאכותית בנהלים מבוססים לרעיונות, הצגת ואימות טיעונים פורמליים ובלתי פורמליים במתמטיקה. זה גם מזהיר שכאשר תוצאות כאלה מקודמות באמצעות הודעות לעיתונות לא רשמיות או פוסטים בבלוג ללא אימות קפדני, קשה למתמטיקאים לתקן מידע שכבר קיים בחוץ, אם יהיו שגיאות משמעותיות בעבודת הבינה המלאכותית.
"יש ממהר להכריז על תוצאות שלעתים קרובות לא נבדקות או קונטקסטואליות בצורה נכונה ממספר סטארט-אפים במתמטיקה בינה מלאכותית," דניאל ליטמתמטיקאי מאוניברסיטת טורונטו שלא היה מעורב בהצהרה, אמר לגיזמודו. "בגדול, אלה לרוב נכונים וגם לא מאוד מעניינים. כמובן שגם לחברות יש תמריצים כספיים להפריז במידת העניין".
דאגה מרכזית נוספת היא שסוכני AI מגרדים את הספרות – arXiv, למשל – כדי לגבש את התשובות שלהם, אך לעיתים רחוקות תוך ציטוט נכון של העבודה האנושית שעליה הם בונים. בעוד שמאגרים כמו arXiv נועדו להיות נגישים, חברות טכנולוגיה נמנעות לעתים קרובות מלחלוק פרטים מרכזיים על האופן שבו ה-AI הגיע למסקנותיה, אמר ג'ים פורטגייס, מתמטיקאי באוניברסיטת איינדהובן לטכנולוגיה בהולנד. סיינטיפיק אמריקן.
תוכנית פעולה
כמה המלצות מרכזיות של ההכרזה כוללות חשיפת השימוש בבינה מלאכותית במחקר, תהליכי ביקורת עמיתים מחמירים יותר והשקעות בתשתית חישובית ציבורית כדי ליישר את מגרש המשחקים מול חברות טכנולוגיה גדולות. שוב, ההכרזה מדגישה שיש להתמקד יותר בבני אדם – בין אם הם משתמשים בבינה מלאכותית באופן שבו הם עוסקים במתמטיקה ובין אם לאו.
"מתמטיקה היא, וצריכה להישאר תמיד, מאמץ אנושי עמוק", אמרה אולריקה טילמן, סגנית נשיא IMU. הערות תמיכה.
בין ההמלצות, Ochigame אמר ל-Gizmodo שהפריט הקל ביותר ליישום עשוי להיות לחשוף את השימוש בכלים, ובהרחבה, לפתח הוראות ברורות יותר לגילוי AI במתמטיקה. בנוסף, התקנות על תעשיית הבינה המלאכותית "משפיעות כל כך הרבה יותר ממתמטיקה", כך שגם זה צריך להיות עדיפות, הוסיף.
ההצהרה "בוודאי נראית בזמן, והרבה ממה שמופיע שם מהדהד את המחשבות שלי", אמר ליט, שהיה גם בין המומחים שהתייעצו עבורם ההכחשה האחרונה של OpenAI של השערה מתמטית ארוכת שנים. "אני כן חושב [AI] היא טכנולוגיה מאוד חשובה וחזקה שיש לה פוטנציאל לעזור לנו עם הרבה מתמטיקה מעניינת… [but] אני לא חושב שהכלים יעשו את זה בעצמם”.
סורגר הוסיף כי התגובות מהקהילה המתמטית "כבר מראות בדיוק מדוע ההכרזה מועילה, ומעוררת שיקול ודיון על מה אנחנו רוצים להגן, מה אנחנו מוכנים לשנות, והיכן אנחנו צריכים יותר בהירות".
ואכן, המטרה העיקרית של ההכרזה היא ליזום דיונים רציניים על השפעת הבינה המלאכותית על מתמטיקה – תחום מחקר יסודי שתמך כמעט בכל היבט של המדע, אם באמת חושבים על זה. וזה אמור להימשך בחודש הבא, כאשר מתמטיקאים בכירים יתכנסו בפילדלפיה למען הקונגרס הבינלאומי של מתמטיקאים מתארח על ידי IMU.