Google sospende l'IA per immagini. La causa? Errori storici e inaccuratezza
Il chatbot cade spesso in errore. E l'azienda corre ai ripari
NEW YORK - Google sospende temporaneamente Gemini, il sistema di intelligenza artificiale che crea immagini. La decisione, comunicata dalla stessa azienda, è stata presa dopo che sono aumentate le segnalazioni di utenti che hanno notato come il chatbot cada spesso in errore quando si chiede di generare foto che rimandano a fatti storici.
Nello specifico, il software avrebbe creato per diverse persone negli Stati Uniti raffigurazioni di padri fondatori americani e dei soldati tedeschi della Seconda guerra mondiale con evidenti errori, ad esempio presentando individui in divisa nazista o di etnia diversa, tanto da far pensare ad un vero e proprio sovvertimento di stereotipo.
«Siamo consapevoli che Gemini offra inesattezze in alcune rappresentazioni storiche della generazione di immagini - ha affermato Google in una nota pubblicata su X -. Siamo al lavoro per risolvere il problema». In seguito alla comunicazione, Big G ha deciso di «mettere in pausa la generazione di immagini di persone» su Gemini in attesa di una nuova versione migliorata.
«I contesti storici hanno più sfumature e ci adatteremo ulteriormente per conformarci», ha affermato Jack Krawczyk, Senior Director of Product di Gemini. Google aveva iniziato a offrire la generazione di immagini attraverso i vari modelli di Gemini AI all'inizio di questo mese.
Su alcuni temi riceviamo purtroppo con frequenza messaggi contenenti insulti e incitamento all'odio e, nonostante i nostri sforzi, non riusciamo a garantire un dialogo costruttivo. Per le stesse ragioni, disattiviamo i commenti anche negli articoli dedicati a decessi, crimini, processi e incidenti.
Il confronto con i nostri lettori rimane per noi fondamentale: è una parte centrale della nostra piattaforma. Per questo ci impegniamo a mantenere aperta la discussione ogni volta che è possibile.
Dipende anche da voi: con interventi rispettosi, costruttivi e cortesi, potete contribuire a mantenere un dialogo aperto, civile e utile per tutti. Non vediamo l'ora di ritrovarvi nella prossima sezione commenti!