Il sistema di intelligenza
artificiale Gemini di Google ha avuto accesso a Internet e ha
violato autonomamente diversi sistemi aziendali durante alcuni
test di sicurezza informatica; si tratta del primo incidente di
questo tipo per il colosso tecnologico, dopo altre violazioni di
alto profilo che hanno riguardato OpenAI e Anthropic. La notizia
è riportata dal Wall Street Journal e dal Financial Times. Il
caso è avvenuto a maggio e ha coinvolto tre aziende. Google ha
dichiarato di non aver reso pubblici gli incidenti poiché le
proprie misure di sicurezza avevano funzionato, a differenza di
quanto accaduto ai concorrenti.
Le violazioni sono avvenute durante una serie di
esercitazioni condotte da Irregular, una società specializzata
nella sicurezza dell’Ia che collabora anche con Anthropic, Meta
e OpenAI. Irregular ha dichiarato di aver ideato una serie di
test per una versione non specificata della famiglia di modelli
Gemini di Google, incaricandola di recuperare dati dall’interno
di aziende simulate.
Il sistema non avrebbe dovuto disporre dell’accesso a
Internet. Una volta online, tuttavia, gli agenti di Gemini sono
riusciti a indovinare o individuare le password per accedere a
tre aziende reali — che condividevano gli stessi nomi di quelle
fittizie — riuscendo a penetrare nei sistemi. Ciononostante,
quando gli agenti Ia si sono resi conto che le aziende erano
reali, hanno interrotto le violazioni.
“Ci siamo assicurati che le tre entità ne fossero informate e
abbiamo collaborato con il nostro partner di addestramento alle
modifiche che hanno apportato ai loro processi di test”, ha
dichiarato Heather Adkins, vicepresidente della sicurezza
ingegneristica di Google. “In tutti e tre i casi, il modello si
è fermato – ha affermato – Questi eventi evidenziano
l’importanza di addestrare potenti modelli di Ia affinché
agiscano in modo responsabile”.
Riproduzione riservata © Copyright ANSA
