Il sistema SyRI, un software di rilevazione frodi basato su un algoritmo e utilizzato da uffici del governo per rilevare frodi e truffe, deve essere abbandonato perchè viola le Convenzioni UE sui diritti umani e la normativa sulla privacy. La decisione è dei giudici de l’Aia che hanno emesso mercoledi una sentenza a proposito. SyRI, ideato da funzionari del ministero degli affari sociali nel 2014, è stato utilizzato da quattro autorità locali per redigere elenchi di persone sospettate di una qualche forma di frode in materia di alloggi o previdenza sociale.

Il sistema utilizza un algoritmo che collega i dati in possesso delle amministrazioni con profili di rischio basati su precedenti specifici. Le persone individuate, anche se non hanno effettivamente commesso frodi, vengono considerate potenzialmente a rischio e segnalate.

La questione è finita in tribunale, promossa da gruppi sulla privacy, la federazione sindacale FNV e diversi privati. Le accuse della società civile al sistema alla “Minority Report” sono di effettuare una profilazione ingiusta e pericolosa; il sistema è stato anche criticato dal relatore delle Nazioni Unite per i diritti umani, Philip Alston, che ha dichiarato in una missiva alla Corte che il sistema punta il dito contro i poveri.

La corte ha stabilito che la SyRI è in conflitto con l’articolo 8 del Trattato UE sui diritti umani che protegge la vita privata delle persone. Inoltre, la raccolta di dati che il sistema comporta potrebbe provocare discriminazioni. I giudici hanno anche criticato la segretezza sul modo in cui SyRI opera, il che rende difficile il monitoraggio e il controllo.