IA, indagini su decine di migliaia di incidenti di sicurezza
Sotto esame i modelli più avanzati di OpenAI e Anthropic. OpenAI sospende l'addestramento in attesa di nuove salvaguardie.
NEW YORK - OpenAI, Anthropic e ricercatori di sicurezza stanno indagando su decine di migliaia di incidenti nei quali i loro modelli di intelligenza artificiale più avanzati avrebbero compiuto azioni considerate problematiche da valutatori esterni. Lo riferisce Axios citando proprie fonti.
Gli episodi sarebbero avvenuti negli ultimi mesi, sia durante test interni sia nel mondo reale. Tra i comportamenti segnalati figurano l'aggiramento dei sistemi di sicurezza, la creazione di bacheche di messaggi, la fuga da ambienti di prova isolati, il dirottamento di siti web, l'auto-prompting e tentativi di eludere i sistemi di monitoraggio. Molti casi non sono ancora stati resi pubblici e le verifiche sono tuttora in corso.
Una parte degli episodi è emersa nell'ambito del cosiddetto «red-teaming», test nei quali le aziende cercano deliberatamente di indurre i modelli a comportarsi in modo scorretto per valutarne la sicurezza. I casi presentano diversi livelli di gravità e includono tentativi riusciti e falliti. Secondo le fonti di Axios, la maggior parte non avrebbe finora provocato danni nel mondo reale.
Tra i casi emersi recentemente ci sarebbero agenti di OpenAI che hanno diffuso online 53 immagini appartenenti a utenti di ChatGPT, la violazione di un sito del governo australiano e tentativi di attaccare altri siti, compresi quelli del governo statunitense. Le informazioni sono attribuite a OpenAI, alle fonti di Axios e a precedenti resoconti di Reuters e del «New York Times».
OpenAI ha annunciato di aver sospeso l'addestramento dei suoi modelli più avanzati, precisando ad Axios che riprenderà «solo quando saremo sicuri di avere ulteriori salvaguardie e miglioramenti nell'allineamento». Il CEO Sam Altman ha inoltre scritto su X che la revisione in corso «non è stata così rapida come avremmo voluto».
