תוכנת זיהוי פנים בינה מלאכותית מובילה למעצרים שווא, חיים הרוסים בפלורידה
בשבועות האחרונים, שני מקרים בפלורידה הכוללים מעצרים לא חוקיים הקשורים לזיהוי פנים בינה מלאכותית משכו תשומת לב מחודשת, האחד באמצעות אישומים שנמחקו לאחרונה והשני באמצעות תביעה בתמיכת ACLU. אדם אחד איבד את עבודתו, מכוניתו וביתו כתוצאה מביילה של כמעט שלושה חודשים מאחורי סורג ובריח על פשע שלא ביצע, בעוד שאדם אחר הואשם שווא בפיתוי ילד ממקדונלד'ס. למרבה הפלא, שני הגברים אמרו שהם היו במרחק מאות קילומטרים מזירות הפשעים המשוערים שלהם כשהתרחשו, כשאחד מהם חולק דפי זמן מהעבודה כראיה.
המקרה האחרון כולל את ג'ליל ריצ'רדסון, אב ל-10 ילדים משרלוט, צפון קרוליינה, שאומר שמשטרת ג'קסונוויל הפכה אותו לחשוד במקרה של רכב גנוב, לאחר שחיפוש אוטומטי של זיהוי פנים סימן אותו מצילומי מעקב. על פי דיווח מקומי מ חדשות אקשן ג'קסהחקירה החלה ב-2 באפריל 2025, כאשר קורבן סיפר למשרד השריף של ג'קסונוויל (JSO) שהוא קנה ללא ידיעתו מכונית גנובה מאדם שפגש בחנות מכולת Publix. החוקרים השוו את צילומי החניה לתמונה של ריצ'רדסון באמצעות זיהוי פנים אוטומטי, או AFR. אשתו של ריצ'רדסון, ג'סמין ג'קסון, אמרה שהשוטרים אמרו מאוחר יותר למשפחה שהמערכת החזירה התאמה של 85%.
ריצ'רדסון סיפר WSOC-TV בשארלוט שהוא לא היה בפלורידה כל חייו. כרטיסי הזמן שלו הראו מאוחר יותר שהוא היה בעבודה בצפון קרוליינה, בערך 400 מייל מג'קסונוויל, כשמכירת המכונית התקיימה. עד אז, התיק כבר כיל חודשים מחייו. ריצ'רדסון סיפר חדשות אקשן ג'קס הוא למד על הצו בפלורידה לאחר שהזעיק משטרה לביתו בשארלוט בשל הפרעה לא קשורה. הוא בילה 33 ימים במעצר של מחוז מקלנבורג לפני שהוסגר, ואז עוד 50 ימים בג'קסונוויל.
בסופו של דבר ביטלו התובעים אישומים, לרבות עסקה ברכוש גנוב, גניבה גדולה, החזקת רכב עם מספר VIN שהוסר, החזקת תואר הונאה ושימוש מזויף בפרטי זיהוי פיקטיביים. עם זאת, הפיטורים לא הביאו את הנזק. לדברי ג'קסון, המשפחה הייתה חסרת בית לאחר שהמקרה הסתיים, וריצ'רדסון איבד את עבודתו, מכוניתו ויציבותו למען ילדיהם.
"זה מאוד טראומטי ולא יאומן", אמר ריצ'רדסון WSOC-TV. "איבדתי הכל… לא נעשתה חקירה ראויה אפילו כדי להגיע אליי או לראות אם אני בכלל בפלורידה. הוא פשוט הוציא באופן אוטומטי צו מעצר שלי".
המקרה הנוסף בפלורידה שעומד כעת במרכזה של תביעה בגיבוי ACLU כולל את רוברט דילון, איש פורט מאיירס בן 52 שנעצר באוגוסט 2024 לאחר שהואשם בניסיון לפתות ילד בן 12 הרחק ממקדונלד'ס בג'קסונוויל ביץ'. חדשות CBS דיווח שהתקרית החלה בנובמבר 2023, וחודש לאחר מכן, שוטר חוף ג'קסונוויל סקוט אוקונל התקשר לדילון והאשים אותו שוב ושוב בפשע. דילון אמר שהוא היה במרחק של יותר מ-300 קילומטרים משם, ונזכר שחשב, "AI אומר שעשיתי את זה, איך אני הולך להוכיח שלא עשיתי את זה?"
המערכת ששימשה במקרה של דילון הייתה ידועה בשם FACESNXT, מערכת ניתוח הפנים, ההשוואה והבחינה. לְפִי חדשות CBS ותביעת ACLU, המשטרה השתמשה בתמונות סלולריות שצולמו ממסך מחשב המציגות צילומי מעקב, ו-FACESNXT החזירה לדילון התאמה של 93% מתכונות הפנים. דילון אמר שסיפר למשטרה שיש לו צלקות מיוחדות מניתוח סרטן העור שעוברות מקו השיער שלו לעבר אפו. לאחר שראה את התמונות של החשוד לצד התמונה שלו, הוא אמר שהצלקות "לא כמעט דומות".
דילון נעצר בבית כשמונה חודשים לאחר אותה שיחה. הוא בילה לילה בכלא, לווה כסף והבטיח את התואר למשאית שלו כדי להפקיד ערבות. האישומים בוטלו כחודשיים לאחר מכן, אך בתביעה של ACLU נכתב כי המשטרה השאירה ראיות שיכולות היו להחליש את הצו, כולל שעובד מקדונלדס תיאר את החשוד כרגיל, ונתוני קוראי לוחיות רישוי לא הראו שום פגיעה ברכב של דילון ליד המסעדה.
ה-ACLU כתב באפריל כי קימברלי וויליאמס, סבתא מאוקלהומה, הפכה לאדם הידוע בציבור ה-14 בארה"ב שנעצר שלא כדין לאחר שהמשטרה הסתמכה על טכנולוגיית זיהוי פנים. הספירה הזו לא כללה את המקרה של ריצ'רדסון, שעלה מאוחר יותר. וויליאמס ישב שישה חודשים בכלא לאחר שמשטרת מרילנד רדפה אחר צווים הקשורים להונאת בנק. היא אמרה שהיא לא יכלה לבצע את הפשע כי היא הייתה באוקלהומה. ה-ACLU גם ציין כי יותר מ-20 ערים ותחומי שיפוט אסרו על שימוש משטרתי בזיהוי פנים.
"כאשר טכנולוגיית זיהוי פנים מייצרת התאמות שווא לדמויות דמויות תמימות, היא עלולה להכתים את החקירה על ידי הטעיית עדים ומשטרה להאמין בטעות שהם מצאו את החשוד", נכתב ב-ACLU.
במקרה של ריצ'רדסון, ה-JSO הגן על עבודתו בהצהרה ל חדשות אקשן ג'קס. JSO אמר כי זיהוי פנים היה רק כלי חקירה אחד, וכי גם הקורבן וגם אחיו של הקורבן זיהו את ריצ'רדסון בהרכבי התמונות. הסוכנות גם אמרה כי שופט חתם על צו עילה מסתברת, שופט שני מצא מאוחר יותר עילה סבירה לאחר שימוע, והפרקליטות בדקה את התיק לפני שהתביעה ביטלה אותו. "טכנולוגיית זיהוי פנים משמשת ככלי אחד מבין רבים הזמינים לחוקרים", אמר JSO. "במקרה הזה, זה היה כלי אחד, אבל בהחלט לא הכלי היחיד."
עבור הנאשם שלא כדין, הנזק הפסיכולוגי והרגשי עלול להימשך שנים. "זה הרס את חיי עד כמה שיכולתי לקיים אינטראקציה עם ילדים," אמר דילון חדשות CBS. "אני מרגיש שאנשים צופים בי. אני מרגיש שאנשים אומרים: 'היי, יש הבחור הזה שהיה בחדשות, תתרחקי ממנו'".