כשזה מגיע לשימוש באנרגיה, סוכני בינה מלאכותית יכולים לגרום לצ'אטבוטים להיראות כמו מחשבוני כיס

הרבה הושקע מהופעתו של AI גנראטיבי ומהעומס שלו על רשת החשמל עקב הביקוש לאנרגיה. אז פשוט חכו עד שתראו כמה אנרגיה AI סוכן צורך. א עבודת מחקר חדשה מהמכון המתקדם של קוריאה למדע וטכנולוגיה יצא לכמת את "העלויות הנסתרות" של סוכני בינה מלאכותית, ומצא שהם יכולים לצרוך עד פי 136.5 יותר אנרגיה לכל שאילתה מאשר דגמי בינה מלאכותית.

יש היגיון בעובדה שסוכני AI דורשים יותר כוח עיבוד ואנרגיה מאשר שאילתת ה-AI הרגילה שלך. בדרך כלל, בקשות LLM הן קריאה ותגובה: אדם מזין שאילתה, והמודל מגיב. אבל AI סוכן דורש בדרך כלל מספר שלבים לביצוע פקודה. לשם כך, אמרו החוקרים, על הסוכן לבצע פינג רציף למודל שלו כדי ליצור תגובה חדשה בזמן שהוא מנמק את כל השלבים של המשימה הנתונה לו.

כתוצאה מכך, יש אפקט מכפיל שמתרחש. לדברי החוקרים, סוכן בינה מלאכותית הפועל על מודל שפה גדול בקנה מידה של רוב דגמי הבינה המלאכותית הזמינים מסחרית יצרוך בממוצע 348.41 וואט-שעה לשאילתה – בערך שווה ערך של שמירה על נורת LED דולקת למשך יום שלם. נתון זה, הם אומרים, גבוה בערך פי 136.5 מהאנרגיה הנצרכת על ידי שאילתת AI מחוללת.

ההשפעה של AI סוכן חורגת מצריכת אנרגיה. המאמר גם בחן את זמן השהיית התגובה ומצא שבינה מלאכותית אנטי יכולה להימשך פי 153.7 יותר מאשר שאילתה רגילה. זה משנה כי זמני תגובה ארוכים יותר קושרים משאבי מחשוב. כאשר סוכן מצלצל שוב ושוב לדגם כדי להשלים משימה, ה-GPU יכול לבלות יותר זמן בהמתנה מאשר בעבודה. החוקרים מעריכים שמעבדי GPU עשויים לשבת במצב פעיל עד 54.5% מהזמן בזמן שסוכן מבצע משימה, ויוצר רמה של חוסר יעילות שאינה קיימת בשימושי AI פשוטים יותר.

עכשיו, כל זה היה דבר אחד אם בינה מלאכותית אגנטית הייתה רק מושג שמשחקים איתו במעבדה איפשהו. המציאות היא שאנחנו כבר מוצפים בסוכני AI. אין לנו תחושה אמיתית של כמה סוכנים נמצאים בטבע בשלב זה. יש 200,000 סוכנים מאומתים רשומים Moltbookהרשת החברתית לסוכני AI, וכ-400,000 סוכנים יש לפי הדיווח אושר להשתמש ב-stablecoin UDSC. חברות כמו גוגל החלו לבנות בינה מלאכותית אנטי לתוך חווית הגלישה באינטרנט. זה כבר די נפוץ.

החוקרים גם יצרו מודל של עתיד שבו סוכני AI מייצרים 13.7 מיליארד בקשות ביום, בערך אותו נפח של שאילתות ש-Google מטפל כיום. ללא רווחים גדולים ביעילות אנרגטית, הם מעריכים שזה ייצור ביקוש לכ-198.9 גיגה וואט של כוח – בערך מחצית מצריכת החשמל הנוכחית של ארצות הברית כולה. אני לא יודע אם כדור הארץ יכול להתמודד עם חצי מארה"ב אחרת! אבל כנראה אנחנו הולכים לגלות.