L’intelligenza artificiale, ben lungi dall’essere perfetta, svela una sua nuova vulnerabilità: la “memorizzazione estraibile” di ChatGPT che rischia di esporsi a perdite involontarie di dati
Noi viviamo in un’epoca in cui la tecnologia digitale rappresenta un pilastro fondamentale per il funzionamento del mondo. Una delle molte applicazioni della tecnologia digitale è l’Intelligenza Artificiale (IA), che ha rivoluzionato vari settori, tra cui la Cyber security. Ma quando l’IA stessa diventa un rischio per la sicurezza dei dati?
Gli esperti di DeepMind hanno recentemente scoperto una vulnerabilità nell’IA denominata “memorizzazione estraibile” che ruota attorno al noto sistema di dialogo ChatGPT. Questa vulnerabilità può condurre alla divulgazione accidentale di dati, generando non solo dubbi sulla sicurezza dell’IA, ma innesca ulteriormente il dibattito sull’importanza dello sviluppo sicuro dell’IA per il futuro.
Ma come si manifesta esattamente questa vulnerabilità? L’IA rigenera le informazioni imparate durante il suo addestramento. In termini semplici, l’IA può ‘ricordare’ alcuni dati utilizzati per la sua formazione. Questo processo è noto come “memorizzazione estraibile” e ChatGPT è stato creato per avere questa peculiare caratteristica, risultando in una potenziale minaccia alla Privacy quando processa dati sensibili.
Questa scoperta porta alla luce non solo le questioni relative alla sicurezza dei dati durante l’addestramento dell’IA, ma anche le implicazioni etiche. Si rileva quindi una nettissima necessità di innalzare gli standard di sicurezza nel campo dello sviluppo dell’Intelligenza Artificiale. Alla DeepMind, ad esempio, i ricercatori stanno già lavorando su possibili soluzioni per ridurre ulteriormente la probabilità che l’IA riveli informazioni di addestramento. L’obiettivo è quello di progettare sistemi di IA capaci di ‘dimenticare’ i dati sensibili una volta terminata la fase di addestramento.
In conclusione, l’Intelligenza Artificiale, pur rappresentando una tecnologia rivoluzionaria in costante evoluzione, può rivelarsi un doppio taglio se non gestita correttamente. È dunque cruciale perseverare nel migliorare sia gli aspetti di sicurezza che quelli etici dello sviluppo dell’IA, per mantenerne l’utilizzo sicuro, efficiente e rispettabile dei diritti dell’individuo.