הונאת תדמית בינה מלאכותית תעלה 40 מיליארד דולר בשנה הבאה – האם הסטנדרטים הבינלאומיים הללו יכולים לעזור?

עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.

נקודות המפתח של ZDNET

• AI או אמיתי? לתמונות יש כעת בעיית אמינות.
• תקנים שיעזרו לזהות תמונות AI המוצעות על ידי EIC ו-ISO.
• JPEG Trust מייצג את הצעדים הראשונים לקראת אימות תמונה.

גופי תקינה בינלאומיים מגבירים את המאמצים לסייע לספק את הכלים שמשתמשי קצה וחברות זקוקים להם כדי להבחין בין תמונות אמיתיות, סרטונים ותוכן אחר לבין זיופים עמוקים וזילוף שנוצר בינה מלאכותית. לאחרונה הוכרזו תקנים חדשים ב- כנס AI for Good מתארח בז'נבה בחסות האו"ם.

כמו כן: חיפוש Google יאפשר לך ליצור תמונות AI באופן מיידי בחינם – הנה איך

נוצר משבר אמינות, והוא רק הולך ומחמיר בכל הנוגע לתמונות, ומגיע לנקודה שבה כבר לא ניתן להבחין בין תמונות אמיתיות לבין זיופים שנוצרו על ידי AI. יש לכך השלכות על פני החברה והעסקים, מה שמעורר ספקות לגבי האותנטיות של תמונות המשמשות בדיווחי חדשות, פרסומים ברשתות חברתיות ואפילו ראיות מצולמות בזירות פשע. יש גם עלות כספית עצומה: בינה מלאכותית גנרטיבית יכולה לאפשר הפסדי הונאה להגיע ל-40 מיליארד דולר בארה"ב עד 2027, לעומת 12.3 מיליארד דולר ב-2023, לפי הערכות מהמרכז לשירותים פיננסיים של דלויט.

מה סטנדרטים חדשים יכולים לעשות ומה לא יכולים לעשות

עם מבול התמונות המופיע כעת בטלפונים הניידים ובמחשבים האישיים שלנו, קשה, אם לא בלתי אפשרי, לקבוע אם תמונות, סרטונים או תוכן אחר הם אמיתיים או נוצרים בינה מלאכותית.

"עכשיו אתה לא יודע מה אם משהו באמת מזויף או לא", אמר Touradj Ebrahimi, פרופסור במכון הפדרלי השוויצרי לטכנולוגיה. אברהימי מובילה מאמצים לטפל בהונאות בינה מלאכותית וזיופים עמוקים, בעבודה עם גופי תקינה בינלאומיים מובילים — הנציבות האלקטרוטכנית הבינלאומית (IEC), ה ארגון התקינה הבינלאומי (ISO)ואת איגוד התקשורת הבינלאומי (ITU) – לפתח ולבשר סטנדרטים משותפים כדי לעזור למשתמשים ולחברות להבחין בין חומר שגוי שנוצר בינה מלאכותית מתוכן אמיתי. "צריך לראות מטא נתונים ומידע כדי למצוא אותו, לשים אותו בהקשר הנכון."

כמו כן: מחוללי התמונות הטובים ביותר של AI: יש רק מנצח אחד ברור עכשיו

לשם כך, חברת החשמל וה-ISO הציגו שתי תוספות לתקני ה-JPEG Trust שלהם כדי לסייע באימות האותנטיות של תמונות ונתונים. תקן ה-JPEG Trust הראשון, שהוכרז בשנה שעברה, נועד לספק מסגרת להטמעת מטא נתונים ישירות לתוך קובצי JPEG בצורה של אינדיקטורים של אמון.

שתי התוספות ל-JPEG Trust, כעת בתהליך:

• JPEG Trust חלק 2 מציג קטלוג של קטעי פרופיל אמון ותבניות דיווח. על פי גופי התקינה, ניתן להשתמש בקטעים אלו "כפי שהם או כנקודות התחלה ליצירת פרופילים לשימוש בזרימות עבודה ספציפיות, מקרי שימוש ויישומים כגון שידור, מצלמות דיגיטליות, שירותי ייצור תוכן המופעלים על ידי בינה מלאכותית וכו'".
• JPEG Trust חלק 3 מציגה סימון מים לנכסי מדיה.

לפי Ebrahimi, המטרה של תקן JPEG Trust היא לשים כלי אימות בידי משתמשי קצה ואינה מיועדת לאמת או לתייג תמונות או נתונים בקצה הקדמי כאשר הם נוצרים. "רמאים לא יסמנו את התוכן שלהם כ-AI", אמר. "אם מישהו רוצה לעבור על החוק, הוא לא יעבור על החוק ויפעל לפי החוק האחר שאומר שצריך לתייג תוכן".

כמו כן: דגם הקוד הפתוח Kimi K3 של Moonshot מנצח את Fable 5 של Anthropic במדד זה

בהתאם לכך, JPEG Trust "אינו תקן שאומר לך אם לסמוך או לא לסמוך על סרטון ותמונה", הסביר. "זה נותן לך אמצעים כדי שתוכל להחליט על סמך התוכן שלך והפרופיל שלך, ואם אתה רוצה לסמוך עליו."

ההקשר הוא גורם נוסף שיש לשקול, והוא גם מותנה במשתמש. "אמון מאוד תלוי הקשר", אמר. "יש אנשים שעשויים לסמוך על משהו בגלל הפרופיל שלהם, בגלל ההקשר שלהם. ואפילו באותו הקשר, הם עשויים לסמוך מאוחר יותר בהקשר אחר".

מאמצים מפוזרים

עד עכשיו, המאמצים לזהות ולהילחם בזיופים עמוקים והונאות בינה מלאכותית היו מפוזרים, כאשר חברות מקדמות את הגישות שלהן בתוך המערכות האקולוגיות שלהן ואחרות מתאגדות כדי לקבוע סטנדרטים בתעשייה דה פקטו, אמר אבראהימי. "אז שאלה גדולה היא איזה סטנדרט הולך להפוך לדומיננטי?" חברת החשמל וה-ISO מכירים בכך שיש צורך בתקנים מקובלים בתעשייה.

כמו כן: סוכן התקיפה של OpenAI עשה בדיוק מה שנאמר לו – פשוט יותר ללא הפוגה מהצפוי

המאמצים להתגונן מפני הונאה במולטימדיה החלו ברצינות בשנת 2018, כאשר ועדת JPEG של חברת החשמל וה-ISO התייחסה לראשונה לדאגה הגוברת לגבי תוכן לא אותנטי. "הם זיהו שיש פגם בכך שקובצי JPEG שימשו להפצת תמונות מזויפות", אמר אבראהימי. כעת, כשתמונות שנוצרו על ידי AI משתוללות, האתגר הוא להרחיב את התקנים כדי לעזור למשתמשים ולחברות לאמת את האותנטיות של התמונות שהם מקבלים.

בנוסף ל-JPEG Trust, תקני מולטימדיה נוספים הנמצאים בפיתוח בשלב זה כוללים את הדברים הבאים, שנערכים כחלק מה-EIC וה-ISO's בינה מלאכותית ומולטימדיה אותנטיות ותקנים יָזמָה:

פרופיל המקור: "מספק מסגרת לתיעוד מקור התוכן הדיגיטלי. הוא כולל הנחיות ליצירה ותחזוקה של פרופילים הלוכדים מידע מפורט על יוצר התוכן ותהליך יצירתו. הדבר מסייע בביסוס רישום ברור ובר אימות של מקור התוכן".
כמו כן: נתתי ל-ChatGPT Work ולקלוד Cowork להשתחרר מהקבצים שלי – רק אחד גרם לי לעצבן

אוצר מילים לביטוי העדפות תוכן עבור AI: "מציע אוצר מילים סטנדרטי של מקרי שימוש שניתן למקד אליהם בעת ביטוי ביטולי הסכמה הניתנים לקריאה במכונה הקשורים לכריית טקסטים ונתונים ואימון בינה מלאכותית. אוצר המילים הוא אגנוסטי למנגנוני ביטול ספציפיים ומאפשר לצדדים מצהירים לתקשר הגבלות או הרשאות לגבי השימוש בנכסים הדיגיטליים שלהם בצורה מובנית ואינטראקטיבית".

H.MMAUTH: מסגרת לאימות של תוכן מולטימדיה: "מפרט פתרון טכני לאימות שלמות תוכן מולטימדיה, המאפשר למשתמשים לאשר את האותנטיות של התוכן על ידי יוצריו, כגון ממשלות, חברות או ארגוני חדשות. הפתרון מבוסס על חתימה דיגיטלית של זרמי נתונים. יוצר התוכן (מקודד) משתמש במפתח פרטי כדי לחתום על התוכן, בעוד שהנמען משתמש במפתח הציבורי (מפענח, במפתח ציבורי תואם). הדרוש לאימות, אינו נגזר ישירות מזרם הנתונים אלא מתקבל באמצעות שיטה מהימנה ועצמאית, כגון מרכז אמון של צד שלישי."