אנתרופית קוראת להפסקה של פיתוח בינה מלאכותית עולמית
החברה שבסיסה בסן פרנסיסקו אומרת שהאטה בפיתוח בינה מלאכותית מתקדמת תהיה "כנראה דבר טוב"
תוכן המאמר
ניו יורק – חברת הבינה המלאכותית Anthropic הציעה ביום חמישי הפסקה עולמית בבניית מערכות הבינה המלאכותית החזקות ביותר, מכיוון שהדגמים האחרונים מתחילים להראות סימנים שהם יכולים להימלט משליטה אנושית.
פרסומת 2
תוכן המאמר
החברה שבסיסה בסן פרנסיסקו, המייצרת את משפחת דגמי הבינה המלאכותית של קלוד, אמרה בדו"ח כי האטה עולמית בפיתוח הבינה המלאכותית המתקדמת תהיה "כנראה דבר טוב" – אך הזהירה שאם רק חברה אחת תעצור, יריבות פשוט ירוץ קדימה.
תוכן המאמר
תוכן המאמר
"אנו מאמינים שזה יהיה טוב שלעולם תהיה אפשרות להאט או להשהות זמנית את התפתחות הבינה המלאכותית על מנת לאפשר למבנים חברתיים ולמחקר יישור לעמוד בקצב התקדמות הטכנולוגיה", נכתב.
קבלת הפסקה אמיתית לעבודה פירושה שמספר חברות בינה מלאכותית גדולות במספר מדינות – ובראשן ארה"ב וסין – כולן יסכימו להפסיק בו זמנית, תחת כללים שכולם באמת יכולים לאמת, אמר אנתרופיק.
"ללא מנגנון תיאום גלובלי, חברות וממשלות יצטרכו לקבל החלטות קשות לגבי בטיחות תוך כדי לחצים תחרותיים וגיאופוליטיים", נכתב.
החברה התמודדה עם דחיפה מאחרים בתעשייה – וגורמים רשמיים בבית הלבן – שאומרים שההתמקדות שלה בתרחישים הגרועים ביותר מגזימה בסיכונים ומסתכמת באסטרטגיה להאטת יריבות בחסות חששות הבטיחות.
שמש הצהריים שלך
תוכן המאמר
פרסומת 3
תוכן המאמר
ובכל זאת, הבית הלבן הכיר בכוחו של מודל Mythos של החברה – שלא הפך לזמין לציבור הרחב בשל יכולות אבטחת הסייבר שלו ונפרס כיום רק למספר קטן של ארגונים שנבדקו.
ההצעה תעמוד בפני קרב עלייה בוושינגטון ובעמק הסיליקון, שם גורמים אמריקאים ומנהלי טכנולוגיה טענו שוב ושוב שכל האטה בפיתוח AI מסתכנת בהענקת יתרון אסטרטגי מכריע לסין במה שרבים רואים כמירוץ הטכנולוגי של המאה.
נשיא ארה"ב דונלד טראמפ, לעומת זאת, אמר שהוא דן באפשרות לשתף פעולה עם סין בנושאי בטיחות בינה מלאכותית במהלך ביקורו האחרון בבייג'ינג.
טראמפ גם חתם השבוע על צו ביצוע המאפשר לממשלה 30 יום לערוך סקירה ראשונית של דגמי הבינה המלאכותית החזקים ביותר בארה"ב לפני שחרורם.
"תפקיד אנושי מצטמצם"
אנתרופיק השווה את הבעיה להסכמי פיקוח על נשק גרעיני – אבל אמר שזה יהיה אפילו יותר קשה להתמודד איתה, מכיוון שקל הרבה יותר להסתיר אימון בינה מלאכותית מאשר ממגורת טילים, והפיתוי להמשיך בשקט יהיה עצום.
פרסומת 4
תוכן המאמר
החברה אמרה שהיא מתכננת להפגיש פקידי ממשל, מדענים, קבוצות הסברה וחברות בינה מלאכותית מתחרות בחודשים הקרובים כדי להבין כיצד מערכת כזו יכולה לעבוד.
הקריאה לתיאום מגיעה לצד נתונים פנימיים המראים שבינה מלאכותית כבר מזרזת באופן דרמטי את הפיתוח של AI עצמה, אמר אנתרופיק.
האצה זו יוצרת לולאת משוב שאנתרופיק הזהירה עלולה להוביל בסופו של דבר למה שהחוקרים מכנים "שיפור עצמי רקורסיבי".
זה הרעיון של מערכת בינה מלאכותית שהופכת להיות מסוגלת בעצם ללמד את עצמה להתחכם, בלי הרבה עזרה אנושית.
"אנחנו עדיין לא שם, ושיפור עצמי רקורסיבי אינו בלתי נמנע", נכתב בדו"ח, תוך הוסיף כי הוא עשוי להגיע מוקדם יותר ממה שרוב הממשלות והמוסדות מוכנים לו.
"הראיות מצביעות על כך שהתפקיד האנושי מצטמצם בכל שלב בתהליך הפיתוח של AI."
קרא עוד
-
קרני חושפת תוכנית להפוך את קנדה למובילת בינה מלאכותית עולמית
-
קינסלה: בואו לא נזלזל בכוחות של בינה מלאכותית
תוכן המאמר