Nonostante Evolv, azienda produttrice di un sistema IA di rilevamento di armi, abbia affermato che la sua tecnologia non è progettata per la rete metropolitana, il sindaco di New York Eric Adams vuole metterla alla prova nelle stazioni della città.
Il recente interesse del sindaco di New York, Eric Adams, per la tecnologia di rilevamento delle armi Evolv, sembra voler mettere alla prova questa innovativa soluzione nelle stazioni della metropolitana della città. Questa decisione ha suscitato non poche discussioni, considerando che la stessa azienda Evolv ha dichiarato in più occasioni che il loro prodotto non è specificamente progettato per tale ambiente. Nonostante ciò, email interne in possesso di WIRED mostrano come l’azienda abbia trovato una via per la diffusione del proprio sistema, anche in prospettiva di un utilizzo nell’ambiente metropolitano.
Il sistema AI di Evolv è nato per creare un ambiente sicuro rilevando automaticamente la presenza di oggetti pericolosi, come armi da fuoco, negli spazi pubblici. Tuttavia, la questione riguardante l’applicabilità e l’efficacia del sistema in un ambiente tanto peculiare e complesso come la rete metropolitana sottoterra, abbastanza diverso dal contesto per cui è stato originariamente progettato, rimane aperta.
In particolare, vi sono perplessità sulla possibilità di falsi positivi causati dalla grande quantità di metallo presente nel contesto metropolitano. Inoltre, l’Algoritmo di apprendimento profondo a cuore del sistema potrebbe, in teoria, essere ingannato o manipolato, aprendo la via a possibili breche di sicurezza. Allo stesso tempo, quella del sindaco Adams sembra essere una mosse ispirata dalla volontà di assicurare una maggiore sicurezza ai cittadini di New York, in risposta a recenti episodi di violenza verificatesi all’interno della metropolitana cittadina.
Per quanto riguarda l’opinione pubblica, la questione solleva non poche questioni etiche e di privacy. Se da un lato una maggiore sicurezza è un bene per tutti, dall’altro, l’utilizzo di un simile sistema potrebbe portare ad una invasione della privacy dei cittadini, una linea che molte persone non sono disposte a superare. La questione quindi resta aperta e l’esito dell’introduzione di questa tecnologia nelle metropolitane di New York è ancora tutto da vedere.
Alla luce di queste considerazioni, è chiaro come l’implementazione dell’intelligenza artificiale nelle dinamiche sociali e urbane del quotidiano sia un tema di grande attualità e rilevanza. È questa la realtà che dobbiamo affrontare in un mondo sempre più connesso e digitale: trovare un equilibrio tra sicurezza, tecnologia e diritti fondamentali, come la privacy.