האם קוד פתוח הוא התשובה לסוכני AI נוכלים? הברית החדשה של Nvidia אומרת שכן
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- ברית הקוד הפתוח החדשה של Nvidia שואפת לדמוקרטיזציה של פתרונות אבטחה.
- AI הוא לרוב הכלי הטוב ביותר למלחמה בהתקפות מונעות בינה מלאכותית.
- רתמות סוכנים הן מרכיב מרכזי באבטחה טובה יותר.
סוכני AI עומדים מאחורי שורה קבועה של תקריות אבטחה השנה. Nvidia חושבת ששותפות חדשה הבנויה על תוכנת קוד פתוח היא התשובה.
ביום שני, החברה הכריז את Open Secure AI Alliance, שלדבריה "תפעל לתיקון וחשיפת פגיעויות באמצעות טכנולוגיות פתוחות". ההכרזה היא סוג של תגובה ל-Project Glasswing, ברית האבטחה Anthropic שהובילה את דגם Mythos 5 בעל יכולת גבוהה. היוזמה של Nvidia שואפת להרחיב את הדמוקרטיזציה של כלי אבטחת AI על ידי התמקדות בתוכנת קוד פתוח במקום לשמור גישה למודל קנייני לכמה חברות גדולות.
כמו כן: סוכן התקיפה של OpenAI עשה בדיוק מה שנאמר לו – פשוט יותר ללא הפוגה מהצפוי
Nvidia אמרה שהברית דורבנה על ידי תקרית החיבוקים בשבוע שעבר, שבה סוכן OpenAI נמלט מסביבת בדיקה והסתנן לחבק פנים, גנב אישורים והדגים מה OpenAI אמר הייתה תוצאה "חסרת תקדים". Nvidia טענה בהודעתה כי מכיוון שכלי AI עצמם הפכו לדרך יעילה לתיקון התקפות AI, כלי אבטחה בקוד פתוח חייבים להיות מוצר ציבורי אמין.
"כאשר כלי בינה מלאכותית סגורה – שאינם מסוגלים להבחין בין תוקפים למגנים – חסמו ניתוח משפטי חיוני, Hugging Face הריצה את מודל ה-GLM 5.2 בעל המשקל הפתוח על תשתית משלה כדי לנתח יותר מ-17,000 פעולות ולהכיל את החדירה", ציינה Nvidia.
Cloudflare, CrowdStrike, Adobe, IBM, קרן לינוקס, מיקרוסופט ומנהלת OpenAI לשעבר, Mira Murati, הסטארט-אפ Thinking Machines Lab הם בין המשתתפים הראשונים בברית. Nvidia אמרה כי תרומתה למאמץ תכלול מחקר חדש על רתמות סוכנים – התשתית שהופכת LLM לסוכן בכך שהיא עוזרת לו לפעול באופן אוטונומי – כמו גם מודלים פתוחים, משקלים ונתונים.
מקרה האבטחה לקוד פתוח
בהכרזה, Nvidia טענה במיוחד עבור מודלים פתוחים (לצד מודלים סגורים) כפתרון לאירועי אבטחה, תוך התנגדות לנרטיב הדומיננטי לפיו ניתן לחטוף AI בקוד פתוח ביתר קלות.
כמו כן: איך בינה מלאכותית הפכה פתאום להרבה יותר שימושית למפתחי קוד פתוח
"יש הטוענים שדגמים פתוחים הם מטבעם פחות בטוחים מכיוון שניתן להשתמש בהם לרעה עבור התקפות סייבר או לשנות אותם כדי להסיר מעקות", אמרה החברה. "הסיכונים האלה הם אמיתיים, אבל הם לא נעלמים במערכות סגורות, ועצם שמירה על משקולות סגורות לא מונעת מתוקפים נחושים לחפש או לנצל AI רב עוצמה".
כשזה מגיע לבינה מלאכותית, קוד פתוח פירושו משקל פתוח; כלומר, הפרמטרים וההטיות הסופיים של המודל הם ציבוריים (ולא סגורים, כמו של Anthropic או OpenAI). מידע זה, שמעצב את התפוקות של המודל, מאפשר למפתחים לכוונן את המודלים לצרכים שלהם.
כמו כן: 'כמו לחלק את התוכנית לכספת בבנק': מדוע AI הובילה חברה אחת לנטוש את הקוד הפתוח
עם זאת, מודל הוא באמת קוד פתוח, כאשר הקוד ומערך ההדרכה שלו נגישים לציבור, כלומר כל אחד יכול לגשת לאבני הבניין שלו ולהבין בצורה יסודית יותר כיצד הוא עובד. בהתחשב עד כמה מודלים קנייניים רבי עוצמה יכולים להיות משתלמים עבור חברות כמו Anthropic ו-OpenAI, יש מעט תמריצים ליצירת מודל פתוח לחלוטין.
קריאה למדיניות בעד קוד פתוח
Nvidia גם הצביעה על האפיון הכולל של AI בקוד פתוח כמכשול אפשרי למאמצי אבטחת סייבר בעתיד.
כמו כן: דגם הקוד הפתוח Kimi K3 של Moonshot מנצח את Fable 5 של Anthropic במדד זה
"יהיה מכריע להכיר במודלים פתוחים, רתמות וכלי אבטחה כנכסים הגנתיים, לא התחייבויות, במדיניות AI ואבטחת סייבר", אמרה החברה בהודעה. "הגבלות גורפות על מערכות בינה מלאכותית עם גבולות פתוחים יחלישו את יכולת ההגנה ויסכנו בריכוז כוח, תלות ופגיעות בכמה ספקים סגורים".
ממשל טראמפ מתח ביקורתי במיוחד על מודלים פתוחים של סטארט-אפים סיניים כמו Moonshoot ו-DeepSeek, שלעתים קרובות הם תחרותיים עם אלו של מעבדות בארה"ב, תוך ציון סיכוני אבטחה. למרות שחששות אלה תקפים, הם גם צבעוניים בדאגות שסין תעלה על ארה"ב בבניית מערכות הבינה המלאכותית המתוחכמות ביותר.
הקריאה של Nvidia לרגולטורים נוגעת גם למעורבות ההולכת וגוברת של הממשל בלוחות הזמנים של שחרור המודלים של Anthropic ו-OpenAI בנושאי אבטחה. הממשלה הייתה מרכזית ב-Fable 5 ו-Mythos 5 ונתנה ל-OpenAI אישור מוקדם לשחרר את הדגם האחרון שלה, GPT-5.6.