Perché ChatGpt (per diverse ore) sembrava impazzito e rispondeva cose senza senso Google ha fermato Gemini

Nella notte a cavallo tra martedì e mercoledì un bug su ChatGpt, che ha da poco acquisito la memoria a lungo termine, sembrava si fosse dimenticato come ci si esprime. Difatti, l'IA ha causato diversi errori nelle risposte ai prompt. Un problema che in Italia è stato riscontrato marginalmente, ma Oltreoceano ha destato ironia, curiosità e non poche domande. 

ChatGpt e le frasi senza senso 

Superata la mezzanotte di mercoledì, gli utenti hanno cominciato a segnalare delle risposte "inattese" ai prompt proposti all'Intelligenza Artificiale di OpenAI. Presto le tragicomiche risposte sono diventate virali su X. Solo una condivisione ha generato ben 44 milioni di visualizzazioni. Nelle risposte, il bot il più delle volte ripeteva termini senza senso, ripescati dal linguaggio slang, lo "Spanglish", oppure ripeteva all'infinito le stesse parole. 

Dalla prima segnalazione ricevuta, sono state impiegate quasi nove ore per mettere la parola fine al bug. Ma perché è successo e a cosa è dovuto? In quella che viene definita postmortem, ovvero un'analisi condotta dopo il verificarsi spiacevole di un evento, OpenAI ha condiviso tutti dettagli nella apposita pagina, dove si leggono diverse informazioni interessanti. 

Il motivo delle risposte senza senso

Tutto deriverebbe da un'implementazione dell'esperienza introdotta poco prima de i bug. Il problema è stato causato dal modo in cui il modello elabora il linguaggio. Come spiegato da OpenAI, gli LLM (Large Language Model) generano risposte apparentemente perfette campionando casualmente parole, il tutto basato in parte sulla probabilità. 

Questo perché il linguaggio sui cui si basa OpenAI è costituito da numeri che corrispondono a dei token. Il bug si verificava nel modo in cui il modello sceglieva i numeri, che venivano dunque proposti sbagliati, come se si perdesse qualcosa nella traduzione. Ecco perché la sequenza di parole prive di senso. Ma OpenAI è scesa maggiormente nel dettaglio. «Più tecnicamente, i kernel di inferenza hanno prodotto risultati errati se utilizzati in determinate configurazioni Gpu. Dopo aver identificato la causa di questo incidente, abbiamo implementato una soluzione e confermato che l'incidente è stato risolto». 

Lo stop di Google a Gemini

Se Atene piange, Sparta di certo non ride. Anche Gemini, l'IA di nelle ultime ore è stato al centro di un bug che ha costretto Google a sospendere la generazione di immagini, come abbiamo spiegato qui. Il bug questa volta è stato piuttosto creativo. Le risposte dell'Intelligenza Artificiale di Mountain View, sembrano lasciar intendere che abbia bisogno di un ripasso della Storia più recente.