L’intelligenza artificiale ha il potenziale di difendere le reti americane, ma presenta anche una serie di rischi. L’FBI sta cercando di bilanciare questi aspetti, tra entusiasmo e cautela.
Per l’Federal Bureau of Investigation (FBI), l’Intelligenza Artificiale (IA) rappresenta una spada a doppio taglio. Se da un lato l’IA può rappresentare una potente arma di difesa per le reti degli Stati Uniti, dall’altro sorge la necessità di instaurare un regime di controllo per prevenire eventuali abusi o manipulate da parte degli avversari. Questo il pensiero espresso recentemente dai funzionari dell’agenzia.
L’FBI sta cercando di approcciare l’IA da diverse angolature, tenendo conto del potenziale delle minacce, della protezione dell’innovazione americana e della necessità di stabilire una struttura di governo per l’uso etico dell’IA all’interno del dipartimento. Così ha affermato Jonathan Lenzner, capo di gabinetto del direttore dell’FBI, Christopher Wray, durante una conferenza dell’International Association of Privacy Professionals a Washington D.C.
“Siamo molto entusiasti del potenziale che l’intelligenza artificiale rappresenta per mantenere più sicure le reti in America e tra i nostri alleati”, ha detto Cynthia Kaiser, vice direttore assistente della divisione cyber dell’FBI. Tuttavia, ha espresso anche preoccupazioni su come gli avversari “potrebbero utilizzare l’IA per inquinare i nostri modelli e rendere le reti meno sicure o per ampliare le loro operazioni”.
L’agenzia ha già fatto uso di strumenti di apprendimento automatico, sia propri che commerciali. Tuttavia, per quanto riguarda l’IA generativa, l’FBI svolge più un ruolo di utilizzatore che di sviluppatore. Questo perché, senza un’adeguata verifica ed evaluzione di modelli di linguaggio di grande dimensione generati da IA, sussiste il rischio che l’IA possa introdurre pregiudizi o altri difetti.
Nel valutare l’impiego etico dell’IA, l’FBI si pone una serie di domande: qual è lo scopo del suo utilizzo? Quali sono i benefici? I benefici superano i rischi? Quali controlli vi sono per la privacy? Chi monitorerà e userà l’IA? Chi ne controllerà la correttezza? Come si determineranno gli errori? Tutto questo deve poi essere innestato all’interno della propria struttura di governo, in sinergia con quella della comunità di intelligence.
L’impiego dell’IA all’interno dell’FBI può anche coinvolgere la collaborazione con altre agenzie. Se si tratta di raccolta dati attraverso un processo legale, l’agenzia preferirà mantenere le cose più interne. Tuttavia, in certi casi, come l’identificazione di infrastrutture cibernetiche nemiche, potrebbe avvalersi di strumenti offerti da altre agenzie, o potrebbe combinare dati provenienti da differenti databases dell’FBI e della comunità di intelligence.
Un’altra modalità con la quale l’FBI sta sfruttando l’IA è l’elaborazione del linguaggio naturale per valutare le migliaia di segnalazioni che riceve quotidianamente, individuando quelle che potrebbero necessitare di un seguito. L’agenzia potrebbe anche rivoltare l’uso criminoso dell’IA contro i criminali stessi, come ha detto Lenzner, pensando di infliggere pene aggiuntive per i reati resi possibili dall’IA.
L’FBI sta ancora valutando i limiti entro cui potrebbe fare uso della tecnologia di riconoscimento di immagini e video di Amazon, Rekognition, che ha suscitato polemiche per le sue capacità di riconoscimento facciale. La fase di riflessione e preparazione è ancora aperta e ogni decisione sarà presa tenendo conto della conformità con le leggi statunitensi.
Nonostante l’enorme potenziale che l’IA offre, l’FBI riconosce l’importanza di un bilanciamento tra profitto e ventuale danno, al fine di garantire la sicurezza della nazione e la privacy dei cittadini.