Il Dipartimento di Giustizia degli USA sotto pressione per il sostegno a tecnologie predittive potenzialmente discriminatorie.
Recentemente, alcune figure del Congresso statunitense hanno sollevato preoccupazioni riguardo ai finanziamenti erogati dal Dipartimento di Giustizia (DOJ) per tecnologie di polizia predittiva. Questi strumenti, basati sull’intelligenza artificiale (AI), stanno attirando l’attenzione per le possibili implicazioni discriminatorie nell’applicazione della legge. I membri del Congresso stanno pertanto esigendo standard più elevati per i finanziamenti federali concessi a tali tecnologie.
La preoccupazione principale sollevata dai legislatori si concentra sull’uso di algoritmi e sistemi AI che potrebbero accentuare pratiche di profilazione e sorveglianza discriminatoria. È emerso il dubbio che tali tecnologie possano non soltanto perpetuare, ma anche aggravare, le disuguaglianze già presenti nei sistemi di giustizia penale.
L’uso di strumenti predittivi nella forza di polizia non è una novità. Tuttavia, il finanziamento di queste tecnologie da parte dell’agenzia federale ha portato a un esame più attento su come il denaro dei contribuenti sia investito e sulle conseguenze che ne derivano. La richiesta del Congresso implica un indispensabile livello di trasparenza e revisione affinché tali fondi siano assegnati equamente e non contribuiscano a pratiche ingiuste.
Gli algoritmi predittivi, teoricamente, possono aiutare le agenzie di applicazione della legge a distribuire meglio le risorse, identificando aree e tempi con maggiore probabilità di attività criminale. Tuttavia, tali sistemi possono anche incorporare e replicare pregiudizi esistenti nei dataset utilizzati per il loro addestramento, risultando in azioni di polizia ingiustamente concentrate su comunità specifiche, spesso già svantaggiate.
Il dibattito si è focalizzato sulla necessità di stabilire protocolli di valutazione e controllo per le tecnologie supportate da finanziamenti federali. Vengono richiesti standard più rigorosi e metriche chiare per determinare l’efficacia e l’equità degli strumenti implementati. Inoltre, si sollecita un maggiore impegno nella ricerca e sviluppo di soluzioni AI che siano consapevoli dell’etica (AI etica) e che tengano in considerazione l’equità come principio fondamentale.
La sorveglianza e la politica di sicurezza pubblica sono quesiti complessi che richiedono un equilibrio delicato tra la protezione dei cittadini e il rispetto dei loro diritti civili. Il caso in questione sottolinea l’importanza di un dialogo aperto e costruttivo tra i decisori politici, le autorità di applicazione della legge e la comunità scientifica per garantire l’adozione di tecnologie che migliorino le procedure di giustizia, senza compromettere i valori di una società equa e non discriminatoria.
Mentre la discussione continua, è chiaro che il cammino verso un’applicazione della legge imparziale e basata su dati affidabili è ancora in corso. La necessità di affrontare le implicazioni etiche di questi strumenti diventa fondamentale per prevenire l’insorgere di nuove forme di disuguaglianza sotto il velo del progresso tecnologico.