Podcasts · Ciao, Internet! con Matteo Flora

IN CARCERE PER LA AI: cosa succede se la AI sbaglia a riconoscerti e chi paga? #1568

22 Jul 2026 · 19 min

Tre mesi di cella per un “match” all’85%: in Florida un uomo viene identificato da un software di riconoscimento facciale come sospetto per il furto/vendita di un’auto e finisce arrestato ed estradato, nonostante esistano già registri lavorativi che lo collocano a centinaia di chilometri di distanza. Il caso (attribuito a Jalil Richardson, dalla North Carolina, arrestato a Jacksonville) mette a nudo una cosa: non basta dire “è solo uno strumento nella cassetta degli attrezzi” quando, di fatto, quell’attrezzo diventa l’unica prova che pesa davvero. Un’accuratezza dell’85% non è “quasi certezza”: è 1 errore ogni 6, una roulette russa se la trasformi in mandato e detenzione. Qui entra in gioco l’automation bias: quando la macchina sputa un numero, l’essere umano smette di dubitare, soprattutto sotto pressione e con carichi di lavoro alti. Il problema non è solo l’errore tecnico, ma l’architettura di responsabilità che scompare dietro il “processo” e dietro un potere sempre più panottico: la faccia diventa dato, il dato probabilità, la probabilità ordine esecutivo. E a pagare il costo dell’errore non è l’infrastruttura, ma il cittadino. 00:00 Tre mesi per un 85% 01:13 Il caso Richardson 03:31 Errori ripetuti e ACLU 04:40 Perché 85% è roulette 05:34 Automation bias: la macchina vince 06:56 Panopticon e potere automatico 09:21 La cassetta degli attrezzi vuota 14:22 Chi paga quando sbaglia? #RiconoscimentoFacciale #Jacksonville #ACLU

The episode on the publisher’s site ↗ (opens in a new tab)