Amazon Web Services (AWS) a vândut sistemul de recunoaștere facială către mai multe departamente de poliție din țară, dar numeroase studii au observat că acesta are mari probleme, în special în privința identificării persoanelor de culoare, notează Business Insider.
Un studiu MIT Media Lab din 2019 a arătat, spre exemplu, că Rekognition întâmpină dificultăți în identificarea sexului, atunci când analizează fețele persoanelor de culoare și pe cele ale femeilor.
În 2018, un studiu al Uniunii Americane pentru Libertăți Civile a observat că Rekognition a identificat în mod incorect 28 de membri ai Congresului drept persoane care au fost arestate pentru diverse infracțiuni. Și în acest caz, greșelile sistemului i-au vizat în mod disproporționat pe oamenii de culoare.
Critici privind vânzarea sistemului către forțele de poliție au fost formulate și de angajații companiei, dar CEO-ul AWS, Andy Jassy, a asigurat că Rekognition nu va fi folosit în scopuri rele.
Acum, Amazon a anunțat, în cele din urmă, o decizie de suspendare a folosirii Rekognition de către forțele de ordine.
“Sperăm că acest moratoriu de un an va oferi Congresului suficient timp pentru a implementa reguli potrivite și suntem gata să ajutăm dacă este necesar”, a precizat un mesaj al Amazon.
Compania a luat această decizie doar în urma presiunilor publice. Inițial, Amazon a dat publicității o declarație în care condamna brutalitatea și rasismul sistematizat al polițiștilor. Dar organizațiile pentru drepturile omului au atras atenția companiei că această declarație este lipsită de conținut, în condițiile în care Amazon colaborează în continuare cu departamentele de poliție.
Amazon va permite în continuare utilizarea softului de către diverse organizații implicate în salvarea victimelor traficului de persoane. Compania a mai precizat că încurajează guvernul să reglementeze mai puternic folosirea sistemelor de recunoaștere facială.
Decizia Amazon a venit în orice caz după un anunț similar făcut de IBM.
CEO-ul Companiei, Arvind Krishna, a declarat luni că IBM nu va mai oferi softul de recunoaștere facială și a cerut un dialog național pe tema folosirii acestei tehnologii.
“IBM se opune ferm și nu recomandă folosirea oricărei tehnologii, inclusiv tehnologia de recunoaștere facială vândută de alți producători, pentru supravegherea populației, discriminarea rasială și încălcarea drepturilor omului și a libertăților”, a spus Arvind Krishna.