גלאי הבינה המלאכותית של Meta לא יכול לזהות תמונות שהוא יצר בעצמו, דיווח מוצא
כלי זיהוי הבינה המלאכותית החדש של Meta לא עובד לחלוטין כפי שפורסם, על פי דוח חדש.
Meta הציגה לראשונה את דגם דור התמונה הראשון שלה, Muse Image, מוקדם יותר השבוע. במסגרת ה הוֹפָעָה רִאשׁוֹנָההודיעה ענקית הטכנולוגיה גם כי כל התמונות שנוצרו על ידי הדגם יכללו מערכת סימון מים בלתי נראית בשם Content Seal. האות הזה יישאר שלם גם כאשר התמונה שנוצרה בינה מלאכותית תהיה "חתוכה, דחוסה, שינוי גודל או צילום מסך" על ידי המשתמשים, טענה החברה. כדי לעזור בתפיסת אות ה-Content Seal, Meta גם הודיעה שהיא צופה בתצוגה מקדימה של כלי זיהוי AI כדי לבדוק אם Muse Image יצרה תמונה.
אבל, בדו"ח שפורסם ביום שישי, רויטרס עיתונאים גילו שכלי זיהוי הבינה המלאכותית לא הצליח לזהות יותר ממחצית התמונות שהוא יצר לאחר שנחתכו. בבדיקה הראשונה, רויטרס מצאה שהכלי זיהה נכון את כל 40 התמונות שנוצרו על ידי Muse Image כנוצרות בינה מלאכותית, אך ברגע שהתמונות הללו נחתכו לחצי או שליש מגודלן המקורי, הכלי הצליח לזהות רק 55% כנוצרות בינה מלאכותית.
ככל שכלי AI גנרטיביים משתפרים בהפקת זיופים עמוקים מוזרים, הזיהוי הופך לבעיה שקשה יותר לפתור. לפי חברת אבטחת הסייבר DeepStrike, נפח הזיופים העמוקים שנוצרו על ידי AI באינטרנט חווה צמיחה שנתית של כ-900% מ-2023 עד 2025. אבל יכולות הזיהוי לא התקדמו לחלוטין במקביל לפריחה זו בפופולריות. כלי זיהוי מסחריים של AI, בעצמם מונעים על ידי AI, עדיין נגועים בטעויות, בעוד שהיכולת של האדם הממוצע לזהות תוכן שנוצר ב-AI אינה טובה יותר מהטלת מטבע, על פי מחקרים קודמים.
למרות שזה לא הצלחה מיידית אמיתית, זה הפער שמטה מכוונת להתמודד עם חותם התוכן החדש וכלי הזיהוי שלו.
Muse Image והמוצרים הנלווים לה נועדו להוות צעד גדול קדימה עבור Meta, שללא ספק נגררה אחרי מתחרותיה בתחום הבינה המלאכותית. בשנה שעברה, מנכ"ל Meta, מארק צוקרברג, החליט שאין זמן כמו היום לנסות להדביק את הקצב והכריז על מאמץ גדול לשינוי בינה מלאכותית. תוכנית ההקצאה כללה השקעה של מיליארדי דולרים במחקר ופיתוח וגידוף כישרונות מובילים מיריבים בכל רחבי התעשייה, הכל בחתירה לבניית מוצרי AI טובים יותר והמטרה הנעלה של יצירת בינה-על מלאכותית.
כמה מיליארדים נוספים שהוקדשו לבינה מלאכותית ועוד כמה ארגון מחדש מאוחר יותר, חשפה Meta את הפרי הגדול הראשון של העבודה באפריל עם Muse Spark, מודל קנייני שלדבריה היא מתכננת קוד פתוח בעתיד וקיבלה קבלת פנים מעורבת. אחד חשוב נוסף היה הופעת הבכורה של Muse Image השבוע.
אבל הופעת הבכורה של מחולל התמונות והכלים הנלווים לו הייתה שקועה במחלוקת, ולא רק בגלל הדיווח של רויטרס. משתמשי אינסטגרם נבהלו כשגילו שמודל הבינה המלאכותית יכול להשתמש בתמונות מכל פרופיל ציבורי מבלי לבקש במפורש את הסכמתם מהבעלים של הפרופיל האמור. תכונה זו הוסרה כעת.
החברה בוחנת כעת את הופעת הבכורה הגדולה הבאה שלה בינה מלאכותית: מחולל וידאו בשם Muse Video. יש לקוות שהחברה תוכל לגשר על פערים בכלי זיהוי ולטפל כראוי בדאגות הפרטיות של המשתמשים לפני שהמודל הזה יירד.