גוגל תובעת רמאים סיניים המשתמשים ב-Gemini AI על הונאה
החברה גם מקדמת חקיקה כדי להילחם בפוטנציאל של AI ליצור הונאות 'מאסיביות'.
גוגל תבעה רשת פשעי סייבר סינית על שימוש ב-Gemini AI שלה כדי להנציח מבצע הונאה "מסיבי", החברה הכריז. ענקית החיפוש תיאמה עם ה-FBI, יחד עם החברות AT&T, T-Mobile ו-Verizon לפרק את המבצע. גוגל גם דוגלת בחוקים מעודכנים להתמודדות עם התקפות מונעות בינה מלאכותית, ואומרת שלטכנולוגיה יש פוטנציאל "להטעין" איומים.
"זהו המאמץ והתביעה המתואמת הראשונה שלנו וזה מדבר על רוחב ההשפעה שיש להונאה הספציפית הזו", אמרה היועצת הכללית של גוגל דליין פראדו הניו יורק טיימס בראיון.
בתביעתה האשימה גוגל ארגון סיני בשם Outsider Enterprise בשימוש בטכנולוגיה ובמותג שלו לביצוע הונאה, וביקשה צו מניעה כדי שניתן יהיה לסגור את הרשת. הקבוצה השתמשה לכאורה ב-Gemini כדי ליצור אתרים המחקים את גוגל, יוטיוב וארגונים ממשלתיים, כולל שירות הדואר האמריקאי ושירות האגרה E-ZPass של ניו יורק. גוגל לא חשפה אילו אמצעים פנימיים היא נקטה כדי לטפל בבעיה, בהתחשב בשליטה של ג'מיני.
ההונאה השפיעה על "מאות אלפי קורבנות", אמרה גוגל, עם אבדות מוערכות במיליונים. הקבוצה יצרה 9,000 אתרי אינטרנט מזויפים ומיליון כתובות URL מזויפות, תוך יצירת 55,000 הודעות ספאם שסומנו על ידי משתמשי אנדרואיד ו-2.5 מיליון הודעות עם קישורים לאתרי הונאה במהלך תקופה של שבועיים בלבד.
גוגל מציינת שכל זה מגיע מפעולה אחת, וזו הסיבה שהיא דוגלת בלא פחות משבע הצעות חוק דו-מפלגתיות לצמצום הונאות בינה מלאכותית עתידיות. אלה כוללים את "חוק האסטרטגיה הלאומית למאבק בהונאות", "כוח המשימה האסטרטגי למניעת הונאות", "חוק עצור הונאות נגד קשישים" וחוק תוכנית הבינה המלאכותית. "זה לא ספאם. זה פשע טרנס-לאומי מאורגן שעובר דרך הטלפונים שלנו, והוא דורש תגובה מתואמת ואגרסיבית כמו האיום עצמו", אמר חבר הקונגרס בריאן פיצפטריק (ר-פנסילבניה).
"פושעים משתמשים יותר ויותר בבינה מלאכותית כדי להפוך הונאה כזו למשכנעת יותר וקשה יותר לזיהוי", הוסיף עוזר מנהל ה-FBI ברט לתרמן. "ואנחנו צריכים פתרון קבוע כדי להביא אותם לדין".