Esploriamo le implicazioni dei bias linguistici degli AI nei sistemi di sicurezza e le possibili soluzioni.
Lo studio dell’École Polytechnique Fédérale de Lausanne, che ha analizzato il comportamento linguistico dei chatbot di intelligenza artificiale, svela che quest’ultimi elaborano le informazioni principalmente in inglese, anche quando trattano lingue diverse. Questa rivelazione porta con sé significative implicazioni per il futuro della cyber security e dell’interazione uomo-macchina.
L’open source modello Llama 2 di Meta ha consentito agli scienziati di indagare in dettaglio ogni passaggio della richiesta, portando alla luce il processo multilivello all’interno dei modelli di intelligenza artificiale. Il percorso di elaborazione di una query attraversa sostanzialmente una fase definita come il “sottospazio inglese”, svelando la marcata preferenza per questa lingua come “lingua franca” all’interno degli AI.
Le preoccupazioni emergenti da questa scoperta riguardano principalmente la perdita di concetti unici e le sfumature culturali strettamente legate alle lingue non anglosassoni. L’adozione dell’inglese come linguaggio dominante nei processi di elaborazione delle AI rischia di marginalizzare le altre culture linguistiche e le loro prospettive.
Il rischio di perdita dei significati intrinseci a diverse culture diviene ancor più cruciale quando si considerano sistemi di sicurezza e meccanismi di difesa che richiedono una comprensione profonda delle varie lingue e dialetti globali. Se le AI sono entrenate prevalentemente in inglese, vi è la concreta possibilità che le minacce informatiche redatte in altre lingue sfuggano ai protocolli di sicurezza, creando lacune nella difesa dei sistemi informativi.
Inoltre, se gli AI incorporano inconsapevolmente bias etnocentrici, ciò può influenzare anche il trattamento equo dei dati e delle richieste, portando a discriminazioni inconsapevoli e a violazioni dei diritti fondamentali relativi alla privacy.
La sfida per i progettisti e gli sviluppatori di sistemi AI è dunque quella di integrare la diversità linguistica e culturale nei modelli di apprendimento delle macchine, assicurandosi che le AI siano in grado di comprendere e processare le informazioni in una varietà di lingue con la stessa efficacia dell’inglese. Questo richiederà investimenti significativi in termini di tempo e risorse, ma è fondamentale per garantire l’universalità e l’equità nell’uso delle tecnologie AI.
Come società interconnessa globalmente, non possiamo permetterci di sottovalutare gli effetti del bias linguistico sulle AI, in particolare quando questo può portare a vulnerabilità crittografiche o a una distribuzione non equa dell’innovazione tecnologica.
Affinché i sistemi di AI possano servire in modo equo e sicuro l’umanità nel suo insieme, sarà imprescindibile implementare strategie multilinguistiche e multiculturali già nelle prime fasi di sviluppo dei modelli. Solamente così potremo prevenire e mitigare il rischio di creare sistemi di sicurezza che siano, seppur involontariamente, esclusivi o inefficaci.