Le associazioni a tutela della privacy e il sindacato FNV si ​​sono recati in tribunale a L’Aia martedì mattina, sperando che il giudice spazzasse via il sistema di rilevamento delle frodi basato sugli algoritmi del governo. SyRI, ideato da funzionari del ministero degli affari sociali, è stato utilizzato da quattro autorità locali per redigere elenchi di persone sospettate di una forma di abuso o frode previdenziale.

Il sistema utilizza un algoritmo che collega le organizzazioni governative e elabora profili di rischio basati sullo storico di cittadini già sorpresi a commettere truffe a danno del welfare. L’algoritmo combina gli archivi per trovare persone con un profilo  simile che vengono quindi considerati potenziali truffatori e segnalati per ulteriori indagini.

“SyRI sta facendo facendo puntare il dito contro persone comuni senza motivo”, ha dichiarato Ronald Huissen dell’associazione per i diritti dei cittadini Platform Bescherming Burgerrechten. “È una minaccia allo stato di diritto.” La scorsa settimana il relatore delle Nazioni Unite per i diritti umani Philip Alston ha criticato il sistema automatizzato, affermando in una lettera a un tribunale che sembra discriminare le persone a basso reddito, soprattutto quelle con un background di minoranza etnica.

“SyRI sembra essere indirizzato direttamente ai gruppu a basso reddito. e il tipo di sorveglianza basata sul rischio colpisce già un gruppo molto più ampio di persone e probabilmente influenzerà i diritti di tutti nel prossimo futuro”, ha affermato Alston.

Il garante olandese per la privacy ha affermato a maggio che il governo deve essere più trasparente sul modo in cui gli algoritmi vengono utilizzati per prendere decisioni che riguardano i suoi cittadini. “Il governo deve essere trasparente al riguardo e chiarire in che modo vengono elaborati i tuoi dati e in che modo vengono prese queste decisioni”, ha affermato l’organizzazione. Quest’estate, il sindaco di Rotterdam Ahmed Aboutaleb ha ordinato la chiusura di un esperimento con SyRI in un quartiere perché “è andato troppo oltre”. E il Volkskrant ha riferito in precedenza che non è chiaro se il sistema abbia rilevato casi reali di frode nelle altre quattro aree in cui è stato utilizzato.