Poliția din New York a arestat un bărbat care nu semăna deloc cu adevăratul suspectul doar pentru că AI le-a spus asta.
Departamentul de Poliție din New York (NYPD) este una dintre cele mai bine echipate forțe de poliție din lume. Cu peste 48.000 de angajați full-time și un buget de aproape 6 miliarde de dolari, accesul NYPD la resurse imense îl apropie mai degrabă de o forță militară a unor țări precum Filipine sau Irak decât de o agenție municipală.
Cu asemenea fonduri la dispoziție, nu este de mirare că poliția din New York investește masiv în tehnologie. Între 2007 și 2020, departamentul a cheltuit peste 2,8 miliarde de dolari pentru a aduna un adevărat arsenal virtual de tehnologii de supraveghere, printre care se numără dispozitive de localizare a telefoanelor, software pentru predicția infracțiunilor și chiar dube cu raze X.
Printre cele mai controversate tehnologii ale NYPD se află un sistem de recunoaștere facială dezvoltat din 2011 — un sistem care recent a dus la arestarea greșită a unui bărbat care era cu un cap mai înalt decât suspectul căutat, scrie Futurism.
AI venise cu 6 propuneri de posibili suspecți
Potrivit The New York Times, un tată pe nume Trevis Williams a fost arestat pe nedrept pe 21 aprilie, după ce software-ul de recunoaștere facială al poliției l-a inclus într-un grup de „posibile potriviri” bazate pe imagini CCTV de slabă calitate.
Anchetatorii încercau să identifice un bărbat care se expusese în fața unei femei cu două luni înainte, în februarie. După ce au introdus în algoritm imaginile neclare ale incidentului, programul a generat șase chipuri ale unor bărbați foarte asemănători — toți afro-americani, cu barbă.
Selecția realizată de AI nu reprezenta „probabil cauză pentru arestare”, iar un anchetator a notat că oricine era identificat în baza de date a NYPD prin sistemul de recunoaștere facială trebuia considerat doar un potențial suspect.
Cu toate acestea, detectivii au inclus fotografia lui Williams în linia de recunoaștere — un proces deja notoriu ca fiind nesigur, chiar și fără factorul distopic al AI. Când victima a declarat cu încredere că Williams era agresorul, poliția a avut baza legală necesară pentru a-l desemna drept suspect.
Bărbatul a spus că nu este vinovat, dar polițiștii nu l-au ascultat
Williams a fost ulterior identificat de polițiști în metroul din Brooklyn și dus la interogatoriu, scrie NYT. Deși se afla la 20 km distanță de locul faptei la momentul incidentului, și era cu aproape 20 de cm mai înalt și cu aproximativ 30 de kilograme mai greu decât suspectul căutat, el a fost totuși arestat și reținut mai bine de două zile.
„Nu sunt eu, omule, jur pe Dumnezeu că nu sunt eu”, le-a spus polițiștilor. „Normal că o să spui că nu ești tu”, i-ar fi răspuns un detectiv.
Deși acuzațiile împotriva lui Williams au fost în cele din urmă retrase în iulie — iar ancheta privind fapta de exhibiționism a fost închisă definitiv — întreaga experiență arată cât de periculos devine atunci când poliția se joacă cu legea și tehnologia doar pentru a obține o arestare.
Cel puțin alte trei persoane de culoare au fost arestate în mod similar de poliția din Detroit pe baza recunoașterii faciale, fapt care a determinat avocații pentru drepturile civile să ceară reguli stricte privind folosirea software-ului de recunoaștere facială.
