«Per troppo tempo il settore ha mentito su rischi dell'IA»
Dario Amodei avverte sull'accelerazione incontrollata dello sviluppo dell'intelligenza artificiale e invoca maggiore trasparenza per evitare rischi.
WASHINGTON - "Non vi mentirò: esistono pericoli reali": Dario Amodei, numero uno e co-fondatore di Anthropic, ha parlato dello sviluppo dell'intelligenza artificiale: "Credo che, per troppo tempo, il settore abbia mentito riguardo ai rischi connessi a questa tecnologia".
E il rischio maggiore potrebbe essere la fine dell'umanità, come ha avvertito la scorsa settimana Jacob Coxon, ex ricercatore di Anthropic, affermando che sia la sua ex società sia OpenAI stanno "giocando con le nostre vite" sviluppando una superintelligenza capace di auto-migliorarsi.
Amodei, in un'intervista alla Cbs, ha ammesso di credere di "non aver compreso appieno cosa avrebbe comportato un progresso così rapido". Ha spiegato che lo sviluppo dell'IA sta seguendo una curva esponenziale, sempre più ripida. Alla domanda su cosa significhi, Amodei ha risposto: "Non significa che dobbiamo farci prendere dal panico oggi e che dobbiamo bloccare tutto. Ma direi che è un segnale d'allarme. Un segnale che ci indica la necessità di rallentare".
Allo scopo di avere modelli affidabili, Amodei ha detto che Anthropic darà a valutatori indipendenti l'accesso permanente ai suoi modelli, simile a quello dei dipendenti. "Ogni volta che qualcuno sviluppa un modello di IA, esiste un valutatore terzo in grado di verificare se l'azienda stia seguendo le pratiche di sicurezza a cui si è impegnata: è un po' come un ispettore sanitario", ha notato.
Il manager è favorevole alla regolamentazione federale: le proposte legislative spaziano dal divieto assoluto della superintelligenza all'obbligo di un 'kill switch', un interruttore d'emergenza che arresti i sistemi di IA rischiosi. "Un kill switch è una buona idea. Non credo che vietarla, vietarla completamente, sia l'approccio giusto per l'IA. In primo luogo, l'idea di rinunciare per sempre a benefici incredibili e a cure mediche mi lascia perplesso. In secondo luogo, questa tecnologia verrà sviluppata anche in altri Paesi, inclusi quelli autoritari", ha concluso.
