Anthropic blocca l'uso dell'IA per ricerche su possibili armi biologiche
L'azienda ha sospeso account sospetti e segnalato anche tentativi di progettare missili e droni armati con i suoi sistemi.
SAN FRANCISCO - Anthropic ha comunicato di aver interrotto i tentativi di alcuni scienziati di utilizzare i suoi sistemi di intelligenza artificiale per ricerche potenzialmente legate alle armi biologiche. L'azienda sostiene che sia difficile distinguere tra attività mediche legittime, come lo sviluppo di vaccini, e ricerche potenzialmente pericolose, decidendo quindi di bloccare in via precauzionale gli account ritenuti sospetti.
In un documento pubblicato sul proprio blog, Anthropic descrive un caso risalente a maggio: un ricercatore avrebbe utilizzato il chatbot Claude per redigere una richiesta di finanziamento destinata allo studio del virus Chikungunya, trasmesso dalle zanzare. Gli esperimenti puntavano a far mutare il virus per renderlo più dannoso per gli animali.
La società riferisce inoltre che negli ultimi otto mesi alcuni utenti avrebbero tentato di sfruttare i suoi sistemi per progettare armi convenzionali, tra cui missili e droni armati. Casi di questo tipo sarebbero stati registrati in Cina, Russia e Yemen. Il software sarebbe stato utilizzato anche da attori legati a governi esteri per diffondere falsa propaganda e sorvegliare gruppi di dissidenti politici.
Interpellati dal New York Times, diversi esperti di sicurezza hanno espresso preoccupazione per il possibile impiego dell'intelligenza artificiale avanzata nella creazione clandestina di agenti patogeni pericolosi. «Oggi potremmo non prevederli e, una volta rilasciati, non essere più in grado di fermarli», ha dichiarato al giornale Susan Monarez, microbiologa ed esperta di salute pubblica.
La notizia arriva nella stessa settimana in cui Jacob Coxon si è dimesso dal laboratorio di intelligenza artificiale di Anthropic, sostenendo che la corsa verso la creazione di una superintelligenza artificiale potrebbe arrivare a distruggere l'umanità entro la fine del decennio.
