INTELLIGENZA ARTIFICIALE: Siamo pronti ad arrivare a questi livelli? Se SI, non lamentiamoci dopo quando non potremo più fare nulla!
L’uso di un software di riconoscimento facciale ha portato la polizia di Detroit ad arrestare falsamente Porcha Woodruff, 32 anni, per rapina e furto d’auto, riferisce il New York Times. Incinta di otto mesi, è stata detenuta per 11 ore, interrogata e le è stato sequestrato il suo iPhone come prova prima di essere rilasciata. È l’ultimo di una serie di falsi arresti dovuti all’uso della tecnologia di riconoscimento facciale, che molti critici ritengono non affidabile
L’errore sembra particolarmente evidente perché il filmato di sorveglianza utilizzato per identificare falsamente Woodruff non mostrava una donna incinta, e Woodruff era visibilmente incinta al momento del suo arresto.
L’incidente è iniziato con una ricerca automatizzata di riconoscimento facciale da parte del dipartimento di polizia di Detroit. Un uomo derubato ha denunciato il crimine e la polizia ha utilizzato DataWorks Plus per eseguire riprese video di sorveglianza confrontandole con un database di foto segnaletiche di criminali. La foto segnaletica di Woodruff del 2015 proveniente da un precedente arresto non correlato è stata identificata come una corrispondenza. Successivamente, la vittima ha confermato erroneamente la sua identificazione da una serie di foto, portandola al suo arresto.
Woodruff è stato accusato in tribunale di rapina e furto d’auto prima di essere rilasciato con una cauzione personale di $ 100.000. Un mese dopo, le accuse contro di lei furono archiviate dal pubblico ministero della contea di Wayne. Woodruff ha intentato una causa per arresto illegale contro la città di Detroit, e il capo della polizia di Detroit, James E. White, ha dichiarato che le accuse sono preoccupanti e che la questione viene presa sul serio.
Secondo il New York Times, questo incidente è il sesto caso recente segnalato in cui un individuo è stato falsamente accusato a seguito della tecnologia di riconoscimento facciale utilizzata dalla polizia, e il terzo avvenuto a Detroit. Tutte e sei le persone accusate ingiustamente erano nere. Secondo i dati esaminati dal Times, il Dipartimento di Polizia di Detroit esegue una media di 125 ricerche di riconoscimento facciale all’anno, quasi esclusivamente su uomini neri.
La città di Detroit attualmente deve affrontare tre cause legali relative ad arresti illegittimi basati sull’uso della tecnologia di riconoscimento facciale. Gruppi di difesa, tra cui l’American Civil Liberties Union del Michigan, chiedono una maggiore raccolta di prove nei casi che coinvolgono ricerche automatizzate sui volti, nonché la fine delle pratiche che hanno portato a falsi arresti.
“L’affidabilità del riconoscimento facciale… non è stata ancora stabilita.”
L’arresto di Woodruff e la recente tendenza ai falsi arresti hanno innescato un nuovo round nel dibattito in corso sull’affidabilità della tecnologia di riconoscimento facciale nelle indagini penali. I critici affermano che la tendenza evidenzia i punti deboli della tecnologia di riconoscimento facciale e i rischi che comporta per persone innocenti.
È particolarmente rischioso per le persone dalla pelle scura. Un post del 2020 sul sito web dell’Università di Harvard di Alex Najibi descrive in dettaglio la pervasiva discriminazione razziale all’interno della tecnologia di riconoscimento facciale, evidenziando una ricerca che dimostra problemi significativi nell’identificazione accurata degli individui neri.
Un rapporto del 2022 della Georgetown Law sull’uso del riconoscimento facciale nelle forze dell’ordine ha rilevato che “nonostante 20 anni di affidamento al riconoscimento facciale come tecnica investigativa forense, l’affidabilità del riconoscimento facciale così come viene tipicamente utilizzato nelle indagini penali non è stata ancora stabilita”.
Inoltre, una dichiarazione di Georgetown sul suo rapporto del 2022 afferma che come strumento investigativo biometrico, il riconoscimento facciale “potrebbe essere particolarmente incline a errori derivanti dal giudizio umano soggettivo, bias cognitivi, prove di bassa qualità o manipolate e tecnologia con prestazioni insufficienti” e che “non funziona abbastanza bene da servire in modo affidabile gli scopi per i quali le stesse forze dell’ordine vogliono usarlo”.
La scarsa precisione della tecnologia di riconoscimento facciale deriva da molteplici fonti, tra cui algoritmi non comprovati, distorsioni nei set di dati di addestramento, diverse angolazioni fotografiche e immagini di bassa qualità utilizzate per identificare i sospetti. Inoltre, la struttura facciale non è un identificatore univoco come le persone pensano, soprattutto se combinata con altri fattori, come dati di bassa qualità.
Questo basso tasso di precisione sembra ancora più problematico se abbinato a un fenomeno chiamato bias di automazione , che è la tendenza a fidarsi delle decisioni delle macchine, nonostante le potenziali prove contrarie.
Questi problemi hanno portato alcune città a vietarne l’uso , tra cui San Francisco, Oakland e Boston. Reuters ha riferito nel 2022, tuttavia, che alcune città stanno iniziando a riconsiderare i divieti sul riconoscimento facciale come strumento di lotta alla criminalità in mezzo a “un’ondata di criminalità e una maggiore pressione da parte degli sviluppatori”.
Per quanto riguarda Woodruff, la sua esperienza l’ha lasciata ricoverata in ospedale per disidratazione e profondamente traumatizzata. Il suo avvocato, Ivan L. Land, ha sottolineato al Times la necessità che la polizia conduca ulteriori indagini dopo un riconoscimento facciale, piuttosto che fare affidamento esclusivamente sulla tecnologia. “È spaventoso. Sono preoccupato,” ha detto. “Qualcuno assomiglia sempre a qualcun altro.”
Siamo entusiasti di comunicarvi la partnership tra Oggi Notizie e Anime Libere, un social libero da CENSURE, Intelligenza Artificiale, e algoritmi di controllo. Con il nuovo social Anime Libere hai la possibilità di pubblicare tu stesso notizie e argomenti di tuo interesse, aprire gruppi pubblici o privati e interagire con tutti gli iscritti attraverso una chat in tempo reale. Anime Libere preserva e promuove la possibilità di esprimersi e condividere opinioni, incoraggiando una discussione rispettosa e civile tra gli utenti.
Anime Libere non solo è totalmente gratuito, ma chi volesse sostenere il progetto sottoscrivendo un abbonamento avrà la possibilità di GUADAGNARE invitando amici ad iscriversi e monetizzare tramite i contenuti che pubblicherà
