דו"ח האו"ם אומר שקובעי המדיניות נאבקים לעמוד בקצב התפתחות הבינה המלאכותית
פיתוח הבינה המלאכותית מתקדם בקצב כה מהיר שמערכות הממשל הנוכחיות אינן מסוגלות לעמוד בקצב, הפאנל המדעי הבינלאומי העצמאי של האו"ם בנושא בינה מלאכותית אומר בדוח הראשוני שלה. הפאנל, המורכב מחברים מרחבי העולם, יספק את המידע הדרוש לביצוע הדיאלוג העולמי של האו"ם בנושא ממשל בינה מלאכותית. הוא יתקיים בז'נבה, שם ידונו המדינות החברות כיצד לנהל את הטכנולוגיה, ומתוכנן להתחיל ב-6 ביולי.
בדו"ח שלו, הפאנל דן באיזו מהירות התפתחו יכולות AI במהלך השנים האחרונות. ככל הנראה, המורכבות של המשימות שמודלים של AI יכולים לבצע הוכפלה מדי כמה חודשים. הדו"ח מודה של-AI יש יתרונות עצומים עבור האנושות, כולל האצת גילוי תרופות ופיתוח חיסונים ותורם רבות למחקר העמידות לאנטיביוטיקה. רופאים יכולים גם להשתמש במערכות בינה מלאכותיות לגילוי מוקדם של מחלות, כמו סרטן השד, ומדענים יכולים להשתמש בבינה מלאכותית כמערכות אזהרה מוקדמת לחוסר ביטחון תזונתי.
עם זאת, הדו"ח מפרט גם את הסוגים החדשים של נזקים שמערכות בינה מלאכותית יצרו ויכולות ליצור. אנשים השתמשו בבינה מלאכותית כדי ליצור ולהפיץ זיופים עמוקים בעלי אופי מיני מפורש, כולל חומרי התעללות מינית בילדים, של אנשים אמיתיים. קליפורניה פתחה בחקירה על גרוק בינואר על רקע זיופים עמוקים ללא הסכמה ו-CSAM, למשל. בינה מלאכותית יכולה גם לייצר מידע שקרי שנראה אמיתי, ופושעים יכולים להשתמש במערכות בינה מלאכותית כדי לסייע למתקפות הסייבר שלהם.
כמה דגמי בינה מלאכותית יכולים להיות מגניבים כאלה; הם מחזקים את ההתנהגויות המזיקות של המשתמש, מה שעלול אפילו להוביל להתאבדות, נכתב בדו"ח. הפאנל גם מזהיר שככל שדגמי AI הופכים אוטונומיים יותר, קשה יותר לנטר ולשלוט בהם. ואז יש את הדאגה הגוברת לגבי בניית מרכזי נתונים מסיביים להפעלת מערכות בינה מלאכותית, שעלולות להזיק לקהילות בסביבתן.
פאנל האו"ם מסביר שקובעי המדיניות נאבקו לעמוד בקצב פיתוח בינה מלאכותית מכיוון שמערכות הממשל הנוכחיות לא תוכננו לטכנולוגיות שמתפתחות כל כך מהר. בדרך כלל, הרשויות זקוקות לנתונים מדעיים לפני הצגת תקנות, אבל עד שיהיה מספיק כדי להבין את הטכנולוגיה טוב יותר, ייתכן שמערכות בינה מלאכותית כבר המשיכו הלאה.
"הדוח מגלה שדרושים הערכה עצמאית חזקה יותר, שיתוף פעולה בינלאומי ותקנים משותפים כדי להבטיח שמערכות בינה מלאכותית יישארו בטוחות, שקופות ואחראיות", כותב הפאנל. ללא אמצעי הגנה מתאימים, טכנולוגיות בינה מלאכותית "יכולות להעמיק את אי השוויון, להפיץ מידע שגוי, לאיים על זכויות אדם, לשבש את שוקי העבודה" ויכולות להיות כלי רב עוצמה של "למעט ממשלות וחברות" יש גישה אליו.
הדו"ח מציין כי הגישה למערכות AI מרוכזת במידה רבה במדינות מפותחות וכי רוב המערכות מפותחות בארה"ב ובסין. רוב המדינות המתפתחות חסרות את התשתית והמומחיות הדרושים כדי להפיק תועלת מ-AI באמת. "האתגר", אומר הפאנל, "הוא למצוא דרך לפתוח את היתרונות העצומים של בינה מלאכותית תוך מניעת הסיכונים הגדלים שלה". פאנל האו"ם, שתפקידו הוא מדעי ולא רגולטורי, ימשיך להעריך טכנולוגיות בינה מלאכותית שבהן הרשויות יכולות להשתמש כדי לפתח מדיניות. שֶׁלָה צפוי לפרסם דוח מקיף יותר בשנה הבאה.