Segui i tuoi podcast preferiti, ascolta offline e in auto con CarPlay e Android Auto, e riprendi sempre da dove eri rimasto. Provala gratis.
Tre mesi di cella per un “match” all’85%: in Florida un uomo viene identificato da un software di riconoscimento facciale come sospetto per il furto/vendita di un’auto e finisce arrestato ed estradato, nonostante esistano già registri lavorativi che lo collocano a centinaia di chilometri di distanza. Il caso (attribuito a Jalil Richardson, dalla North Carolina, arrestato a Jacksonville) mette a nudo una cosa: non basta dire “è solo uno strumento nella cassetta degli attrezzi” quando, di fatto, quell’attrezzo diventa l’unica prova che pesa davvero.
Un’accuratezza dell’85% non è “quasi certezza”: è 1 errore ogni 6, una roulette russa se la trasformi in mandato e detenzione. Qui entra in gioco l’automation bias: quando la macchina sputa un numero, l’essere umano smette di dubitare, soprattutto sotto pressione e con carichi di lavoro alti. Il problema non è solo l’errore tecnico, ma l’architettura di responsabilità che scompare dietro il “processo” e dietro un potere sempre più panottico: la faccia diventa dato, il dato probabilità, la probabilità ordine esecutivo. E a pagare il costo dell’errore non è l’infrastruttura, ma il cittadino.
00:00 Tre mesi per un 85% 01:13 Il caso Richardson 03:31 Errori ripetuti e ACLU 04:40 Perché 85% è roulette 05:34 Automation bias: la macchina vince 06:56 Panopticon e potere automatico 09:21 La cassetta degli attrezzi vuota 14:22 Chi paga quando sbaglia?
