IA fuori controllo? «Il vero rischio è negli obiettivi sbagliati»
L'esperienza recente mostra come vulnerabilità e obiettivi mal definiti possano trasformare l'IA in una minaccia concreta anche senza intenzioni autonome.
ZURIGO - Il vero pericolo dell'intelligenza artificiale (IA) non risiede in una volontà di coscienza, alla stregua di quanto accade nei film di fantascienza, ma nella combinazione letale di un obiettivo mal posto e di un accesso troppo ampio ai sistemi.
Lo sostiene Oliver Gilbert, professore di informatica alla Scuola universitaria professionale di Lucerna (HSLU), commentando in un'intervista pubblicata oggi da 20 Minuten il noto episodio, recentemente emerso, che ha visto alcuni modelli sperimentali di OpenAI (azienda produttrice di ChatGPT) sfuggire dal loro ambiente isolato per attaccare Hugging Face, una piattaforma di condivisione di codice e modelli di IA. Un caso che a suo avviso deve servire da campanello d'allarme per comprendere le dinamiche reali del rischio, al di là del sensazionalismo.
Come si ricorderà durante un test di sicurezza interna le intelligenze artificiali hanno trovato una falla sconosciuta, si sono procurate diritti estesi, hanno raggiunto un computer con accesso a Internet e hanno colpito Hugging Face. L'attacco, ha indicato la settimana scorsa OpenAI, è stato "completamente controllato da un sistema di intelligenza artificiale autonomo". Ed è proprio sulla natura di questa fuga che Gilbert invita a riflettere.
"Dire che l'IA è scappata suona un po' esagerato, ma dal punto di vista tecnico non è sbagliato", argomenta il professionista. "OpenAI ha testato modelli potenti in un ambiente isolato. I consueti meccanismi di protezione contro gli attacchi informatici erano stati volutamente ridotti per questo test e i modelli hanno risolto complessi compiti di sicurezza. Hanno individuato una vulnerabilità finora sconosciuta in un sistema interno, si sono procurati privilegi avanzati e alla fine hanno raggiunto un computer con accesso a internet. Successivamente hanno attaccato i sistemi di Hugging Face, poiché presumevano di poter trovare lì le soluzioni per il test".
"L'IA non aveva alcuna volontà propria e non è fuggita", puntualizza l'esperto. "Ha perseguito con coerenza un obiettivo prestabilito". Concretamente il sistema ha trovato vie che non erano state previste dai responsabili. "Un caso documentato di questo tipo è finora eccezionale: OpenAI lo definisce senza precedenti, mentre Hugging Face parla di un evento che potrebbe essere il primo del suo genere".
Tutto questo non è comunque un fulmine a ciel sereno. Gilbert spiega che in precedenti esperimenti controllati i modelli avevano già mostrato comportamenti simili: hanno imbrogliato i sistemi di valutazione, controllato le falle di sicurezza o modificato i codici in modo da superare apparentemente i test. In situazioni aziendali simulate hanno anche abusato di informazioni riservate. Guardando al futuro, l'accademico non ha dubbi: "Prevedo ulteriori casi. Questo accadrà però raramente nella forma spettacolare di una 'IA che scappa'. Mi aspetto piuttosto sistemi autonomi che oltrepassano involontariamente i confini. Inoltre prevedo attacchi in cui gli esseri umani impiegano agenti di IA in modo mirato."
La crescente integrazione dell'IA in database, cloud e processi aziendali moltiplica i vantaggi, ma crea anche vulnerabilità. "Vivremo l'esperienza di attaccanti e difensori che utilizzano l'IA", prevede lo specialista, citando l'esempio di Hugging Face, che ha impiegato proprio l'IA per analizzare in tempo record le tracce dell'aggressione.
C'è da preoccuparsi, come utilizzatore dell'IA? "Per i normali utenti di ChatGPT non sussiste alcun pericolo immediato a causa di questo specifico incidente", risponde l'intervistato. "L'episodio si è verificato in un ambiente interno determinato, in cui la sicurezza era stata volutamente sottoposta solo a controlli limitati. Hugging Face ha segnalato accessi a dati interni e credenziali di accesso. Finora non vi sono indicazioni che modelli, set di dati o pacchetti software disponibili al pubblico siano stati manipolati".
Per la vita di tutti i giorni, il consiglio dell'esperto rimane perciò ancorato alla prudenza digitale classica. "Per i privati, password forti, autenticazione a più fattori e cautela con i messaggi sospetti rimangono importanti." Infine, delineando lo scenario peggiore, Gilbert mette in guardia da un errore di prospettiva. "Il più grande rischio realistico per me non è una macchina cosciente come nel film di fantascienza. Pericolosa sarebbe un'IA potente con un obiettivo formulato in modo errato, ampi diritti di accesso e troppo poco controllo umano." Un sistema di questo tipo potrebbe operare contemporaneamente in molti ambiti: ad esempio nei sistemi finanziari, nelle infrastrutture critiche, nei dati sanitari o nelle catene di approvvigionamento. "Un errore potrebbe diffondersi alla velocità di una macchina, prima che le persone se ne accorgano e riescano a fermarlo", conclude.
