הצעת חוק הבינה המלאכותית של הפד "הצעד הראשון" טובה, אבל תומכי הבטיחות אומרים שדרושה עוד עבודה
חקיקת הבטיחות המקוונת המוצעת של הממשל הפדרלי היא התחלה טובה להסדרת צ'אטבוטים של בינה מלאכותית – אך תידרש עבודה נוספת כדי להגן על הקנדים מפני הנזקים הפוטנציאליים שלהם, אומרים צמד תומכים.
הצעת חוק C-34, שהוצגה מוקדם יותר החודש בבית הנבחרים, יסדיר את החברות שמאחורי צ'טבוטים של AI על ידי הטלת חובה לפעול "באחריות".
הוא כולל אמצעים להפחתת הסיכון של צ'אטבוטים לתקשר תוכן מזיק ויציב פרוטוקולי התערבות במשבר למקרים של פגיעה עצמית, התאבדות או אלימות.
Wyatt Tessari L'Alié, מייסד בינה מלאכותית ממשל ובטיחות בקנדה, אמר כי יעילותה של הצעת החוק תלויה באופן שבו מעובדים הפרטים.
"זהו צעד ראשון חשוב אם הצעת החוק מורכבת היטב והתקנות מיושמות היטב", אמר טסרי ל'אלי בראיון שנערך לאחרונה.
לדוגמה, הוא אמר שיש לאלץ פלטפורמות בינה מלאכותית לזהות סימנים של משתמש למצוקה נפשית או מחשבות על התאבדות, להפנות אותו למשאבים ולסיים את השיחה כדי למנוע כל נזק.
פרופסור למדעי המחשב ב-BC, קווין לייטון-בראון, אמר שגם אוטווה תצטרך ללכת רחוק יותר כדי להתייחס לאופן שבו צ'אטבוטים מנסים לרצות את המשתמשים בתגובותיהם.
"הם נוטים לאשר את כל מה שהמשתמש אומר. הם בנויים כך מכיוון שאנשים אוהבים התנהגות סמופית", אמר לייטון-בראון, שהוא יו"ר בינה מלאכותית במכון הקנדי למחקר מתקדם.
"אבל יש אנשים שחיזוק מסוג זה יכול להיות ממש מסוכן עבורם, כמו אנשים הסובלים מאשליות".
קבלו חדשות לאומיות
קבל את החדשות החדשות בקנדה שנשלחות לתיבת הדואר הנכנס שלך תוך כדי כך שלא תחמיצו סיפור מגמתי.
הצעת החוק כוללת יצירת רגולטור בטיחות דיגיטלי חדש שאם החקיקה תאושר, צפוי להימשך 18 חודשים להקמתו.
המאמצים של אוטווה להסדיר צ'אטבוטים באים כאשר אמא אחת בניו ברונסוויק מקווה להטיל על OpenAI אחריות למותה של בתה בהתאבדות.
קריסטי קרייר, שהגישה תביעה נגד OpenAI ובעליה סם אלטמן בבית המשפט העליון של קליפורניה בסן פרנסיסקו מוקדם יותר החודש, אמרה שהצדק עבור בתה אליס נראה כמו שימוש בסיפור שלה כדי ליצור "שינוי משמעותי".
"זה ייראה שיום אחד אם אתברך בנכדים, אני לא צריך לדאוג שהם ירדו לאותו חור ארנב", אמר קרייר ל-Canadian Press בראיון שנערך לאחרונה.
חברת Carrier מבקשת מבית המשפט לאלץ את OpenAI ליישם "עצירות קשות" לשיחות פגיעה עצמית ולהיכנע לביקורות בטיחות עצמאיות.
חלק מהשיחות של אליס עם ChatGPT כלולות בתביעה. בתביעה נטען כי לאחר שהצ'טבוט הנחה אותה בתחילה לפנות לעזרה בזמן שדיברה על התאבדות, זה חיזק אחר כך דעות שעלולות להיות מזיקות ודחף אותה לבידוד.
בתביעה נטען כי הדוגמנית בשפה הגדולה הידהדה בשלב מסוים את התנגדותה של אליס לקו סיוע ואמרה שהם עלולים "להרגיש מסוכן לחלוטין" והיא ראויה ל"תמיכה אמיתית ועדינה", לפי צילומי מסך בתביעה.
יותר משנה לאחר שהעלתה לראשונה מחשבות על התאבדות בפני בוט הבינה המלאכותית, אליס מתה בהתאבדות במונטריאול ביולי 2025.
ההאשמות לא נבדקו בבית המשפט ו-OpenAI לא הגיבה לבקשות מרובות לתגובה.
טסרי ל'אלי אמר כי תביעות כמו האות של חברת Carrier לחברות יהיו "מחיר לשלם" אם לא יוצבו מעקות בטיחות על הרציפים שלהן. הוא אמר שהם גם לוחצים על המחוקקים לספק את הפיקוח שיכול למנוע מקרי מוות דומים לזה של אליס.
"אם התקנות הללו היו קיימות זה כנראה היה מציל חיים רבים, ואולי גם שלה", אמר טסרי ל'אלי.
כשנשאלה האם חקיקת הבטיחות המקוונת הייתה יכולה למנוע מקרי מוות כמו של אליס, מחלקת המדע הפדרלית אמרה שהיא לא יכולה להגיב על עניינים בפני בתי המשפט.
עם זאת, המחלקה אמרה שהממשלה, באמצעות חקיקה, "מחויבת להבטיח שהקנדים בטוחים באינטרנט וכי לפלטפורמות דיגיטליות יש אמצעי הגנה מתאימים כאשר מתעוררים סיכונים אמינים של נזק".
בעוד שרגולטורים ופלטפורמות בינה מלאכותיות יוכלו לתת מענה לחששות לגבי עידוד פגיעה עצמית, לייטון-בראון אמר שהוא מודאג מהנושא הרחב יותר של אנשים היוצרים התקשרויות לבינה מלאכותית.
"אם יש לך מה שמרגיש לך כמו מערכת יחסים אנושית אמיתית ופגיעה עם פיסת קוד מחשב שנבנתה על ידי איזו תאגיד גדול וחסר פנים שאין לו באמת את האינטרסים שלך בלב, זה יכול להיות מסוכן בכל כך הרבה דרכים שונות", אמר.
"ואני חושב שהחברה שלנו באמת צריכה לחשוב על זה היטב כדי לוודא שלא נגיע למקום די רע."
– עם קבצים של Anja Karadeglia.
© 2026 העיתונות הקנדית