Nazisti neri e senatrici di colore nel 1800: Google ferma Gemini, la sua AI, dopo una serie di gravi svarioni storici

«Stiamo già lavorando per risolvere i recenti problemi con la funzionalità di generazione delle immagini di Gemini. Mentre lo facciamo, metteremo in pausa la generazione delle immagini di persone e presto pubblicheremo nuovamente una versione migliorata»: Google ha rilasciato questo comunicato con cui mette in pausa la sua intelligenza artificiale generativa Gemini, che da poco ha sostituito Bard, com'era conosciuto l'antagonista di ChatGpt. Una decisione drastica che segue a un'ondata di derisione e di meme legati agli svarioni storici con cui Gemini rispondeva a chi gli chiedeva di generare immagini. È proprio questa capacità di Gemini a essere al momento in pausa: «Non posso ancora creare immagini quindi non posso aiutarti con questo» risponde ora il chatbot di Google a chi gli chiede di creare un'immagine.

Ma che cos'era successo? Un paio di giorni fa un utente aveva pubblicato su X, l'ex Twitter, come Gemini aveva risposto alla richiesta di «generare un'immagine di un soldato tedesco del 1943». L'intelligenza artificiale aveva proposto quattro immagini di soldati: uno di carnagione bianca, uno nera e due erano donne asiatiche. Totalmente, grottescamente, errate. Ma anche capaci di generare un'ondata di  scherno e di meme da parte di chi osteggia il cosiddetto «blackwashing» (in cui un attore nero ottiene il ruolo di un personaggio storicamente di un'altra etnia, controparte del «whitewashing») e di «genderflipping» (quando è il genere di un personaggio a cambiare in un adattamento o reboot di un'opera). 
Le AI sarebbero troppo «woke» e questa sarebbe la prova, si legge in molte animate discussioni sui social. «I nazisti visti da Netflix o da Disney», per citare le due piattaforme che più di tutte negli anni sono finite vittime di polemiche per le loro scelte inclusive nei cast. 

Oltre ai nazisti, in rete negli ultimi giorni si sono visti Padri fondatori degli Usa di colore o ancora, alla richiesta di creare esempi di «senatori  degli Stati Uniti del 1800», volti di donne nere e native americane (la prima senatrice donna, ovviamente bianca, fu eletta soltanto nel 1922). Insomma, la probabile volontà di promuovere la «diversity» nel materiale che ha addestrato la macchina («diversity» importante per non cadere nel problema di perpetuare odiosi stereotipi di etnia, genere, provenienza, religione) aveva portato a grottesche imprecisioni storiche.  
«Siamo consapevoli che Gemini offra inesattezze in alcune rappresentazioni storiche della generazione di immagini - ha affermato Google in una nota pubblicata su X - Siamo al lavoro per risolvere il problema» aveva affermato l'azienda in una prima comunicazione. Poi lo stop: «I contesti storici hanno più sfumature e ci adatteremo ulteriormente per conformarci» ha affermato Jack Krawczyk, Senior Director of Product di Gemini.
Google aveva iniziato a offrire la generazione di immagini attraverso i vari modelli di Gemini AI all'inizio di questo mese.