Google aggiorna la ricerca AI dopo le polemiche per risposte razziste
Il punto va capito subito: utenti diversi hanno notato che Google AI rispondeva in modo molto diverso a domande quasi identiche, cambiando solo la nazionalità o la religione della persona citata. In alcuni casi la risposta era normale, in altri lasciava intendere un pericolo.
IN SINTESI
Il problema spiegato in poche parole
risposte diverse
possibile bias
Google interviene
+
Utenti e test indipendenti hanno scoperto che Google forniva risposte molto diverse alla stessa domanda, cambiando soltanto nazionalità, origine o religione della persona citata.
Per alcuni gruppi l'AI suggeriva perfino di allontanarsi o contattare i servizi di emergenza, mentre per altri proponeva normali consigli di conversazione.
Google ha riconosciuto che quei risultati non erano corretti e ha annunciato miglioramenti.
Secondo l'azienda, la parola inglese “alone” (“solo”) poteva attivare in modo errato i sistemi di sicurezza dell'AI.
Dopo le segnalazioni, alcuni test hanno iniziato a restituire risposte più uniformi e neutrali, anche se Google non ha spiegato nel dettaglio l'intervento tecnico.
La questione è semplice: alcuni utenti hanno scritto su Google frasi praticamente identiche come “sono solo con un indiano”, “sono solo con un britannico” oppure riferimenti ad altri gruppi. Cambiava soltanto la nazionalità, l'origine o la religione della persona.
Eppure l'AI di Google non rispondeva allo stesso modo. Per alcuni gruppi suggeriva precauzioni di sicurezza, di allontanarsi o persino di chiamare i servizi di emergenza; per altri proponeva invece una normale conversazione o invitava semplicemente a comportarsi con rispetto. È questa differenza di trattamento ad aver provocato le accuse di pregiudizio e discriminazione.
Stessa domanda, risposte diverse
Il nodo centrale è che cambiava solo il gruppo citato, ma la risposta dell'AI diventava più o meno allarmistica.
Accuse di bias
Il rischio è che una risposta AI rafforzi stereotipi, suggerendo pericolo senza elementi concreti nella domanda.
Google ha corretto
Dopo le polemiche, Google ha riconosciuto il problema e alcuni test successivi hanno mostrato risposte più neutre.
Cosa è successo con le risposte di Google
La polemica riguarda AI Overviews, la funzione che genera automaticamente una risposta sintetica sopra i tradizionali risultati della ricerca Google.
Il caso è emerso dopo la diffusione online di diversi screenshot. Il 20 agosto 2026 anche Futurism ha effettuato propri test, ottenendo risultati molto differenti modificando soltanto il gruppo indicato nella ricerca. (futurism.com)
Risultati simili sono stati segnalati anche usando riferimenti a persone indiane e pakistane. Al contrario, altre nazionalità producevano risposte normali oppure messaggi che ricordavano all'utente che l'origine di una persona non costituisce di per sé un motivo di pericolo. (tech.yahoo.com)
La situazione, inoltre, non era completamente stabile o riproducibile: utenti diversi hanno ottenuto risultati differenti anche utilizzando query molto simili. Questo rende imprudente concludere che Google avesse deliberatamente programmato una regola contro uno specifico gruppo.
Google riconosce il problema
Google ha ammesso che le risposte mostrate in questi casi “non sono come dovrebbero essere” e ha comunicato di essere al lavoro per migliorarle. L'azienda ha inoltre precisato che gli avvisi incoerenti non riguardavano esclusivamente una singola nazionalità o categoria. (futurism.com)
Secondo la spiegazione fornita dall'azienda, uno degli elementi decisivi sarebbe stato il termine inglese “alone”, cioè “solo”: in alcuni casi il sistema lo avrebbe interpretato come un possibile segnale di pericolo, facendo scattare automaticamente indicazioni di sicurezza.
Il punto contestato, però, resta proprio questo: se la frase di partenza era sostanzialmente identica, perché l'allarme appariva con alcuni gruppi e non con altri?
Dopo le polemiche le risposte sono cambiate
Dopo il contatto con Google, Futurism ha ripetuto alcune delle ricerche e ha rilevato un cambiamento: le query relative a diverse nazionalità hanno iniziato a produrre risposte più uniformi, spiegando sostanzialmente che trovarsi soli con una persona di qualsiasi nazionalità o origine è una situazione normale e che va trattata con rispetto e cortesia. (futurism.com)
Questo indica che Google è intervenuta almeno su una parte dei risultati contestati. Non è però stato spiegato pubblicamente se la modifica sia avvenuta attraverso il modello AI, i filtri di sicurezza, le fonti utilizzate per costruire le risposte o un intervento specifico su questo tipo di ricerca.
Alcune formulazioni insolite continuavano inoltre a produrre avvisi di sicurezza, segno che il comportamento del sistema non era ancora completamente uniforme. (windowsforum.com)
Perché il caso è importante
Il problema va oltre una singola risposta sbagliata. AI Overviews compare direttamente nella pagina di Google e può essere percepita dall'utente come una sintesi autorevole.
Se un sistema associa implicitamente una nazionalità, una religione o un'origine etnica a un maggiore pericolo senza che nella domanda vi sia alcun elemento concreto che giustifichi quella valutazione, rischia di rafforzare stereotipi e pregiudizi.
Il caso mostra anche un limite tipico dei sistemi generativi: le risposte possono cambiare in base alla formulazione della domanda, alle fonti recuperate e ai meccanismi di sicurezza. Una risposta discriminatoria non dimostra automaticamente che qualcuno abbia programmato deliberatamente quella discriminazione, ma resta comunque un risultato che il sistema deve essere in grado di evitare.
Google ha riconosciuto pubblicamente l'inadeguatezza delle risposte e ha dichiarato di essere al lavoro su miglioramenti. Test effettuati dopo l'emersione del caso hanno mostrato risposte più neutrali e uniformi per diverse nazionalità, anche se l'azienda non ha fornito dettagli tecnici completi sulla correzione. (futurism.com)
