Chiara Rossi

Amazon, tutti i subbugli tra i soci sulla vendita di Rekognition alle polizie Usa

Oggi gli azionisti di Amazon voteranno la vendita di Rekognition alla polizia, tra le proteste diffuse contro il software per il riconoscimento facciale

22 Maggio 2019 12:59

Chiara Rossi

Riconoscimento facciale all’ordine del giorno dell’assemblea dei soci di Amazon. Oggi gli azionisti del colosso guidato da Jeff Bezos voteranno sulla vendita del software Rekognition, sviluppato dalla unit Amazon Web Services nel 2016. A un anno esatto dalle proteste di una dozzina di organizzazioni per i diritti civili guidate dall’American Civil Liberties Union (Aclu) ha guidato un gruppo di oltre due dozzine di organizzazioni per i diritti civili contro la vendita del software.

Gli azionisti sono chiamati a decidere se l’azienda dovrebbe smettere di vendere il suo sistema di riconoscimento alla polizia e ad altre agenzie governative statunitensi (come l’Ice) e se commissionare uno studio indipendente per verificare se la tecnologia rappresenta una minaccia per i diritti civili delle persone. La società di Seattle ha cercato di bloccare i voti, che sono comunque non vincolanti.

I TIMORI DEGLI INVESTITORI

Gli investitori hanno chiesto agli azionisti di votare per il veto alla vendita di tecnologie di riconoscimento facciale alle agenzie governative a meno che il Consiglio non concluda, dopo una valutazione attraverso prove indipendenti, che la tecnologia non causi violazioni effettive o potenziali dei diritti civili e umani. Mary Beth Gallagher, direttore esecutivo della Tri-State Coalition per investimento responsabile, ha riferito alla Cnn che gli azionisti sono preoccupati che le continue vendite di Rekognition alla polizia danneggino lo status di Amazon come “una delle istituzioni più affidabili negli Stati Uniti”. Gli azionisti voteranno due volte in merito: prima se la società debba smettere di offrire il proprio sistema di riconoscimento a enti governativi e poi se commissionare uno studio indipendente.

LA DECISIONE DELLA SEC

Amazon ha chiesto alla Sec il permesso di omettere entrambe le risoluzioni. Permesso negato, visto che si tratta di questioni di legittima preoccupazione degli investitori. Tuttavia i voti non sono vincolanti, pertanto Bezos e i suoi non devono intraprendere azioni specifiche a prescindere dal risultato.

COME FUNZIONA REKOGNITION

Rekognition permette di identificare i volti in tempo reale e di confrontarli con un archivio di “20 milioni di facce”. Il software online utilizza l’intelligenza artificiale per identificare rapidamente le persone in foto e video, consentendo alle forze dell’ordine di monitorare le persone, abbinando volti a soggetti pre-scannerizzati. In tal modo, dà un punteggio di fiducia se l’ID è accurato. Lo strumento può identificare inoltre contenuti potenzialmente non sicuri o non appropriati negli asset video e nelle immagini. Come si legge nel sito, è possibile analizzare gli attributi dei volti nelle immagini e nei video per determinare elementi come stato d’animo, fascia di età, occhi aperti, occhiali, barba e così via.

TESTATO IN FLORIDA E OREGON

Finora, Amazon ha pilotato la sua tecnologia di Rekognition con il Dipartimento di Polizia di Orlando in Florida e l’ufficio dello sceriffo della contea di Washington in Oregon.

LE PROTESTE DIFFUSE

Entrambe le istanze hanno incontrato resistenza da parte di gruppi per i diritti civili, specialisti di intelligenza artificiale e accademici. Gli oppositori sono preoccupati soprattutto per i contatti commerciali di Amazon con l’agenzia per l’immigrazione e il rafforzamento delle dogane (Ice) visto i dubbi che il software potrebbe facilitare la sorveglianza di massa e la profilazione razziale.

LE FALLE NEL SOFTWARE SECONDO IL MIT

Il timore è che la Ricognizione colpisca in modo sproporzionato le minoranze, i membri dei gruppi per i diritti civili e conduca a falsi arresti. Come ha ricordato Forbes, secondo uno studio del MIT pubblicato lo scorso gennaio, il software è difettoso. Quando si identificano gli uomini bianchi, lo strumento viene eseguito con una precisione del 100%, ma l’accuratezza cala drasticamente quando si identificano le donne di colore, al 69%. Ciò crea evidenti preoccupazioni per la protezione dei diritti delle comunità di colore.

LA REPLICA DELLA SOCIETÀ DI BEZOS

I rappresentanti di Amazon, tuttavia, hanno respinto tali conclusioni affermando che il team di ricerca di Media Lab del MIT non ha utilizzato correttamente la tecnologia Rekognition. La società di Seattle ha anche rilasciato una lunga risposta su come utilizzare Rekognition.

LE RACCOMANDAZIONI DI AMAZON ALLE FORZE DELL’ORDINE

Amazon raccomanda che gli agenti delle forze dell’ordine debbano usare la struttura solo se c’è una valutazione di confidenza del 99% o superiore di una partita e afferma che dovrebbero essere trasparenti riguardo al suo utilizzo.

REKOGNITION È CONVENIENTE

Parte dell’attrattiva di Rekognition? E’ più economico da usare rispetto a diverse tecnologie di riconoscimento facciale rivali. Come sottolinea il Washington Post, lo strumento targato Amazon è facile da attivare, non richiede una grande infrastruttura tecnica e viene offerto a chiunque a prezzi convenienti. La contea di Washington ha speso circa 700 dollari per caricare la sua prima grande raccolta di foto, e ora, per tutte le sue ricerche, paga circa 7 dollari al mese.

SAN FRANCISCO SI È OPPOSTA AL RICONOSCIMENTO FACCIALE

Nel frattempo, la scorsa settimana il Consiglio dei Supervisori di San Francisco ha approvato un’ordinanza che vieta il software di riconoscimento facciale da parte delle forze dell’ordine e di altre agenzie locali. La città californiana è la prima negli Stati Uniti a proibire alla propria amministrazione l’uso della tecnologia del riconoscimento facciale. Il divieto riguarderà la polizia cittadina e altri dipartimenti municipali ma non le autorità federali, che potranno continuare ad usare questa tecnologia in porti ed aeroporti. Nell’East Bay, anche la città di Oakland sta considerando la messa al bando del riconoscimento facciale.

IN QUESTA DIREZIONE ANCHE LO STATO DELLA CALIFORNIA

Mentre Amazon è alle prese con la questione del riconoscimento facciale nella sua assemblea generale, i regolatori statunitensi si stanno muovendo. Il Senato dello stato della California sta considerando una legislazione che vieterebbe l’uso della tecnologia di riconoscimento facciale da parte delle forze dell’ordine. La proposta ha superato l’Assemblea di Stato all’inizio di questo mese ed è tra una serie di norme che la Camera alta prenderà in considerazione a partire dal prossimo mese. L’Assembly Bill 1215 vieterebbe l’installazione e l’uso del riconoscimento facciale e degli scanner biometrici in tutto lo stato nelle telecamere del corpo di polizia, ampiamente utilizzati dalle forze dell’ordine.