נניח שהתקפות אבטחת סייבר בינה מלאכותית הן העתיד: 43% מהחברות כבר חוו זאת
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- מחקר חדש של CDW מראה ששימוש בבינה מלאכותית בהתקפות סייבר נפוץ יותר ויותר.
- 43% מהארגונים שנסקרו חוו התקפות דיוג משופרות בינה מלאכותית.
- 41% מהחברות מתכננות להשתמש בבינה מלאכותית בהגנת הסייבר שלהן.
43 אחוז מהארגונים חוו התקפות דיוג המוגברות בינה מלאכותית או שנוצרו בינה מלאכותית, ו-37% נתקלו בתוכנה זדונית מוגברת בינה מלאכותית, על פי סקר חדש.
דוח מחקר האבטחה של CDW לשנת 2026 מבוסס על סקר של 951 מקבלי החלטות בתחום ה-IT במגוון תעשיות. פורסם ביום שני, המחקר חושף את מה שנראה כמירוץ חימוש בינה מלאכותית בין תוקפי סייבר למגינים. ארגונים רבים שוקלים להשקיע באיתור איומי בינה מלאכותית, הדרכה ובקרות כדי להילחם בפנים החדשות של איומי הסייבר המודרניים: טכניקות, טקטיקות וטכנולוגיות בינה מלאכותית.
התקפות סייבר מונעות בינה מלאכותית, לפי המספרים
ישנם מספרים רציניים בדו"ח שראויים לתשומת לבנו המיוחדת. אירוע סייבר אחד או שניים נגד ארגונים בעלי פרופיל גבוה הכוללים מודל AI מתוחכם הוא דבר אחד, אבל יש זרם תת-קרקעי של פיתוח מתקפת AI שקטה וזדונית שסביר הרבה יותר להשפיע על החברה הממוצעת.
לפי הדיווח:
- 43% מהארגונים חוו התקפות דיוג משופרות בינה מלאכותית או שנוצרו בינה מלאכותית.
- 37% מהמשיבים דיווחו שנתקלו בתוכנה זדונית המונעת בינה מלאכותית.
כמו כן: סוכני בינה מלאכותית הם מהירים, רופפים וחסרי שליטה, כך מגלה מחקר MIT
בנוסף, כאשר נשאלו המשיבים בסקר אילו איומי אבטחת סייבר התומכים בבינה מלאכותית מהווים את הסיכון הגדול ביותר לארגונים שלהם, 25% אמרו שהתקפות דיוג והנדסה חברתית שנוצרו בינה מלאכותית היו המדאיגות ביותר, ואחריהן תוכנות זדוניות המופעלות על ידי בינה מלאכותית וכלי התקפה אוטומטיים (21%). נראה כי וקטורי ההתקפה הללו האפילו על דאגות לגבי זיופים עמוקים, כאשר רק 8% מהנשאלים ציינו התחזות לזיוף עמוק כסיכון הגדול ביותר לחברות שלהם.
פריצת AI היא עניין של מתי, לא אם
במשך שנים, מומחי אבטחה הזהירו חברות לאמץ את הלך הרוח שהם יחוו פרצת אבטחה בשלב כלשהו – זה עניין של מתי, לא אם.
עם ההופעה המהירה של התקפות סוכן מגובות בינה מלאכותית, אוטונומית מלאה, המסר הזה רלוונטי מתמיד.
כמו כן: סוכן התקיפה של OpenAI עשה בדיוק מה שנאמר לו – פשוט יותר ללא הפוגה מהצפוי
רק החודש חשף Hugging Face פריצה של AI סוכן. למרות שהגנות ה-AI של הארגון עצמו תפסו זאת, המקרה מדגיש את מה שחברות מתמודדות עם בשמירה על בטיחות המערכות, הנתונים ורישומי הלקוחות שלהן.
בסך הכל, 41% מהמשיבים לסקר CDW אמרו שהם מתכננים לפרוס מערכות זיהוי איומים מונעות בינה מלאכותית בעתיד הקרוב, כאשר 49% מתמקדים בזיהוי איומים ואנומליות, 47% בוחנים ניתוח מודיעין איומים, ו-42% בחרו בזיהוי דיוג והונאות.
"אנחנו צריכים להיות מודאגים מהיכולת הגוברת של AI כטכנולוגיה לגלות ולנצל חולשות", אמר באק בל, מנהל משרד אסטרטגיית האבטחה העולמית של CDW. "מוטל כעת על מתרגלי אבטחה למנף כלים דומים כדי למצוא את החולשות האלה לפני שהחבר'ה הרעים ימצאו אותן".
ישנם גם סיכונים הקשורים לשימוש פנימי ב-AI למטרות עסקיות ופרודוקטיביות. ללא הכשרה ובקרות מתאימות, עובדים עלולים להזין בטעות נתונים ארגוניים רגישים לתוך LLMs – לחשוף מידע ואולי למסור אותו לאימון בינה מלאכותית. ללא מעקות בטיחות, בינה מלאכותית עם תפקידי החברה עלולים לחרוג מהתפקידים שהוקצו להם ולשבש את הפעילות.
למרבה המזל, ארגונים נוספים מודעים כעת לסיכונים הללו. בסך הכל, 46% מהנשאלים אומרים שהם מרבים להעריך תשתיות בינה מלאכותית ולפקח עליהן מקרוב, בעוד 45% מתכוונים להכשיר את העובדים שלהם לשימוש בטוח ומאובטח. יתר על כן, 44% עובדים על הטמעת בקרות הגנת נתונים עבור מערכות בינה מלאכותית ושילוב מערכות בינה מלאכותית בזרימות עבודה קיימות של ניטור אבטחה.
כמו כן: 10 דרכים שבהן AI יכול לגרום נזק חסר תקדים
איזה חלק מהתקציבים הקשורים לבינה מלאכותית של ארגונים צריך ללכת ליעדי פרודוקטיביות לטווח הקרוב לעומת צרכי אבטחה וחוסן לטווח ארוך יותר? אם אנחנו מתכוונים לעצור את הבינה המלאכותית הזדונית מארגונים מכריעים שכבר נלחצו להתמודד עם איומי אבטחה מסורתיים, אנו עומדים בפני כמה החלטות קשות לגבי סדרי עדיפויות השקעות.