Meta בנתה כלי זיהוי בינה מלאכותית לזיהוי תמונות ווידאו שנוצרו עם הדגמים החדשים שלה
Meta עובדת על כלי לזהות תמונות ווידאו שנוצרו עם המודל החדש שלה ליצירת תמונות, Muse Image. החברה הראתה תצוגה מקדימה של כלי מבוסס אינטרנט שיכול לבדוק את סימני המים הבלתי נראים המשמשים את הדגם החדש.
מערכת סימון מים זו, הנקראת Content Seal, נשארת במקומה "גם כאשר חותכים, נדחסים, משנים את הגודל או מצלמים מסך", מסבירה מטה ב- פוסט בבלוג. "אנחנו מציגים תצוגה מקדימה של כלי זיהוי המאפשר לך לבדוק אם תמונה נושאת סימן מים של Content Seal, מה שמספק דרך ראשונית לעזור לך להבין טוב יותר אם תמונה נוצרה עם Meta AI."
נראה ש-Content Seal היא גישה חדשה במקצת עבור Meta. הגרסה שהיא חלק מ-Muse Image היא קניינית, אם כי החברה פרסמה בעבר גרסאות קוד פתוח של הטכנולוגיה, אמר Meta ל-Engadget. הדגמים החדשים של Meta אינם כוללים סימני מים גלויים, כמו כמה גרסאות קודמות של Meta AI שהוסיפו לוגו קטן בפינה הימנית התחתונה.
לעת עתה, יכולות הזיהוי של Meta AI מוגבלות לתמונות שנוצרות או נערכות עם Muse Image, אם כי החברה אמרה שהיא מתכננת להרחיב את סימני המים של Content Seal לסרטוני AI שנוצרו וערוכים גם כן. Meta עובדת גם על דגם נפרד לדור וידאו בשם Muse Video ש"יגיע בקרוב".
ניסיתי את תכונת הזיהוי החדשה בתמונות שיצרתי היום עם Meta AI והכלי מבוסס האינטרנט הצליח לזהות סימן מים לתמונות ערוכות וליצירות מלאות בינה מלאכותית (כמו זו שבתמונה למעלה). זה גם מצא את סימן המים בצילומי מסך של התמונות שלי. "תוצאה חיובית פירושה שהתמונה נוצרה או נערכה באמצעות אפליקציית Meta AI או meta.ai," מסבירה החברה בשאלות נפוצות. "תוצאה שלילית פירושה שלא סביר שהתמונה עובדה באמצעות אפליקציית Meta AI או meta.ai".
באופן מעניין, נראה כי יכולות הזיהוי החדשות של Meta AI עדיין אינן חלק מאפליקציית Meta AI. כששאלתי את העוזרת מבוססת האפליקציה של Meta לגבי תמונה שכלי האינטרנט זיהה כיוצרת בינה מלאכותית, היא ענתה שאין לה את היכולת לבדוק. "אני לא יכול להגיד לך באופן סופי אם התמונה הספציפית הזו נוצרה עם מטה אל רק על ידי התבוננות בה", נכתב. "Meta Al לא מסמן תמונות אוטומטית, ואין לי כלי שיכול לזהות איזה דגם של Al יצר תמונה קיימת."
Meta התמודדה בעבר עם קצת ביקורת על האופן שבו היא מסמנת ומזהה חומר שנוצר ב-AI באפליקציות שלה. מועצת הפיקוח אמרה לחברה מוקדם יותר השנה שהיא "מודאגת" שמטא "מיישמת באופן לא עקבי" סימני מים דיגיטליים על תוכן AI שנוצר על ידי הכלים שלה.
עם זאת, נראה שלפיצ'ר החדש עדיין יש כמה מגבלות אחרות. Content Seal אינו תואם לאישורי תוכן SynthID או C2PA, שתי שיטות מבוססות לסימון מים המשמשות חברות אחרות. התכונה מבוססת האינטרנט לא הצליחה לזהות תמונות שנוצרו או נערכו עם גרסאות קודמות של דגמי ה-AI של Meta בבדיקות שלי. כשהוספתי תמונות שנוצרו בצ'אטים ישנים יותר עם Meta AI, זה לא היה יכול להגיד לי אם התמונה נוצרה עם ה-AI שלה. נראה שהתכונה גם, מסיבה כלשהי, כפופה למגבלות התעריפים של Meta. לאחר העלאת קומץ דוגמאות, קיבלתי התראה שהגעתי ל"המגבלה היומית שלי בבדיקות זיהוי".