OpenAI מכריזה על תכונת ChatGPT חדשה ומטרידה בשם 'מצב נעילה'
OpenAI פשוט הכריז מצב נעילה. זוכרים את הנעילה? זה ככה, אבל עם צ'טבוט של AI.
למעשה, זה מתוכנן כדרך להגן עליך מפני התקפות הזרקה מיידיות – סוג חדש וערמומי של פעילות דואר זבל ממוקדת בינה מלאכותית, שלעיתים נחשבת כפריצה מלאה. על ידי הטמעת הוראות זדוניות בתוכן שנזרק להנחיה או נתקל בה סוכן AI, לתוקפים יש את היכולת לא רק לגנוב נתונים, אלא להשתמש בהם כדי לנסות ולנסות להשתלט על חיי המשתמש.
מצב נעילה, אם כן, הוא חוויה מצומצמת, כפי שהשם מרמז. זה לא נעילה המופעלת אוטומטית על ידי סכנה, אלא מעין חדר בהלה שאליו אתה נכנס כשאתה משתמש ב-ChatGPT אם מה שאתה עושה כל כך רגיש שהתקפת הזרקה מיידית עשויה להזיק במיוחד.
בעיקרו של דבר, בכל פעם שה-LLM שובר את ההכלה של חלון הצ'אטבוט הקטן בדפדפן או באפליקציית הטלפון החכם שלך, ויוצא לגלוש באינטרנט למידע, או מאחזר תמונה, או – כנראה שזה מובן מאליו – מנסה לקנות כרטיסי טיסה בשמך, מה שפותח אותך לסכנה של הזרקה מיידית מבטל את התקפת מצב הנעילה.
מצב נעילה אומר ש-ChatGPT לא יכול:
- לגלוש באינטרנט
- להציג תמונות בתגובות (אבל זה יכול ליצור תמונות, ואתה יכול להעלות תמונות)
- לעשות "מחקר מעמיק"
- לתפקד כסוכן
- רשת עם מחולל קוד Canvas
- להוריד קבצים
כפי שמנסח זאת OpenAI:
"מצב הנעילה הוא לֹא מיועד לכולם. הוא מיועד לאנשים וארגונים המטפלים בנתונים רגישים ורוצים הגנה מחמירה יותר מפני סיכוני חילוץ נתונים הקשורים להזרקה מיידית".
זה הימים הראשונים עם צ'אטבוטים של AI, ו-ChatGPT יוצר מצב שנועד למנוע גניבת נתונים. זה סביר, אני מניח. ובכל זאת, זה מטריד לדמיין, נניח, עורכי דין זורקים מידע רגיש של לקוחות ל-ChatGPT, או רופאים מעמיסים את נתוני הבריאות של המטופלים שלהם לתוך ה-LLM המועדף עליהם. "מצב נעילה" חלופי בטוח עוד יותר קיים לשמירה על נתונים רגישים מפני התקפות הזרקה מיידיות: אל תאפשר לנתונים רגישים ליד צ'אטבוט.