Algoritm de predicție a crimelor testat în Marea Britanie. Proiectul e criticat drept distopic și înfricoșător

Cum funcționează algoritmul creat de Guvernul Britanic

Proiectul, inițial denumit „proiect de predicție a omuciderilor”, a fost redenumit „schimbul de date pentru îmbunătățirea evaluării riscurilor”. Ministerul Justiției speră să îmbunătățească siguranța publică, dar militanții consideră că este „înfricoșător și distopic”.

Descoperit de grupul de presiune Statewatch, proiectul utilizează date de la persoane necondamnate, inclusiv informații despre automutilare și abuzuri domestice, deși oficialii neagă acest lucru, afirmând că datele provin doar de la persoane cu condamnări penale.

Guvernul susține că proiectul este în faza de cercetare, dar criticii avertizează că ar putea genera prejudecăți împotriva persoanelor sărace și a minorităților etnice.

Ministerul Justiției afirmă că proiectul va analiza caracteristicile care cresc riscul de omucidere și va explora tehnici inovatoare de evaluare a riscului.

Un purtător de cuvânt a declarat că proiectul va „furniza dovezi pentru îmbunătățirea evaluării riscurilor de infracțiuni grave și, în cele din urmă, va contribui la protejarea publicului printr-o analiză mai bună”.

Proiectul, comandat de biroul prim-ministrului Rishi Sunak, utilizează date despre criminalitate din surse oficiale, inclusiv Serviciul de probațiune și poliția din Greater Manchester, înainte de 2015.

Ce date colectează guvernul pentru „Proiectul de predicție a crimelor”

Informațiile prelucrate includ nume, date de naștere, sex, etnie și un număr de identificare din computerul național al poliției.

Statewatch susține că datele includ și persoane nevinovate și cele care au apelat la poliție. Acordul de partajare a datelor dintre Ministerul Justiției și GMP include tipuri de condamnări penale și vârsta la care o persoană a apărut prima dată ca victimă, inclusiv în cazuri de violență domestică.

Datele speciale includ „markerii de sănătate” cu putere predictivă, cum ar fi informații despre sănătatea mintală, dependență, sinucidere, vulnerabilitate, autovătămare și handicap.

„Încercarea Ministerului Justiției de a construi acest sistem de predicție a crimelor este cel mai recent exemplu înfricoșător și distopic al intenției guvernului de a dezvolta așa-numitele sisteme de «predicție» a criminalității. În mod repetat, cercetările arată că sistemele algoritmice de «predicție» a infracțiunilor sunt în mod inerent defectuoase. Acest ultim model, care utilizează date de la poliția noastră instituțional rasistă și de la Ministerul de Interne, va consolida și amplifica discriminarea structurală care stă la baza sistemului juridic penal”, a declarat Sofia Lyall, cercetător pentru Statewatch.

„Ca și alte sisteme de acest tip, va codifica părtinirea față de comunitățile rasiale și cu venituri mici. Construirea unui instrument automatizat pentru profilarea persoanelor ca infractori violenți este profund greșită, iar utilizarea unor date atât de sensibile privind sănătatea mintală, dependența și dizabilitatea este extrem de intruzivă și alarmantă”, a mai continuat ea.

Explicațiile Ministerului Justiției

„Acest proiect este realizat doar în scopuri de cercetare. A fost conceput folosind datele existente deținute de HM Prison and Probation Service și de forțele de poliție cu privire la infractorii condamnați, pentru a ne ajuta să înțelegem mai bine riscul ca persoanele aflate în probațiune să comită violențe grave. Un raport va fi publicat în timp util”, a declarat un purtător de cuvânt al Ministerului Justiției din Marea Britanie.

Oficialii spun că serviciile penitenciare și de probațiune utilizează deja instrumente de evaluare a riscurilor, iar acest proiect va vedea dacă adăugarea de noi surse de date, din datele poliției și ale custodiei, ar îmbunătăți evaluarea riscurilor.

Urmărește-ne pe Google News