Spiegazione della controversia sullo strumento di immagine AI di Google e perché è in pausa

Google ha dovuto frenare la sua generazione di testo in immagine Gemini AI quando si tratta di esseri umani. La controversia è scoppiata sui social media questa settimana, con Google che ha confermato che la sua offerta di intelligenza artificiale più potente di sempre stava effettivamente creando immagini con “imprecisioni” storiche.

Inizialmente il lancio di Gemini sembrava andare bene per Google, tuttavia, all’inizio di questa settimana gli utenti dei social media hanno iniziato a notare che quando si trattava di generare immagini di personaggi storici, Gemini sembrava avere una mente propria. Alcuni esempi condivisi hanno mostrato che i Gemelli interpretavano le immagini dei padri fondatori degli Stati Uniti come afroamericani e i soldati nazisti tedeschi del 1943 come di origine asiatica e afroamericana. A seguito del contraccolpo, Google ha risposto rapidamente rimuovendo la capacità di Gemini di creare immagini che includessero esseri umani e ha rilasciato una dichiarazione condivisa tramite X/Twitter.

Google ha osservato: “Stiamo già lavorando per risolvere i recenti problemi con la funzione di generazione di immagini di Gemini. Mentre lo facciamo, metteremo in pausa la generazione delle immagini delle persone e presto pubblicheremo nuovamente una versione migliorata.” Un tweet precedente aggiungeva: “La generazione di immagini AI di Gemini genera una vasta gamma di persone. Anche se generalmente è una buona cosa perché le persone in tutto il mondo lo usano. Ma qui manca il bersaglio.”

Elon Musk è stata una delle voci più vociferanti su X/Twitter riguardo alla questione. In un tweet di oggi, Musk ha osservato: “Un dirigente senior di Google mi ha chiamato e mi ha parlato per un’ora ieri sera. Mi ha assicurato che stanno adottando misure immediate per correggere i pregiudizi razziali e di genere nei Gemelli. Ha concluso: “Il tempo lo dirà”.

John Krawczk, direttore senior del prodotto Gemini presso Google, ha sottolineato in una dichiarazione che le capacità di generazione di immagini dell’azienda riflettono la sua massiccia “base di utenti globale” e prende sul serio “la rappresentazione e i pregiudizi”. Ha aggiunto: “Continueremo a farlo per suggerimenti aperti (le immagini di una persona che porta a spasso un cane sono universali!). I contesti storici hanno più sfumature e ci sintonizzeremo ulteriormente per adattarli”.

Attualmente, se un utente Gemini richiede la creazione di un testo in immagine che includa una persona, l’intelligenza artificiale risponderà: “Stiamo lavorando per migliorare la capacità di Gemini di generare immagini di persone. Ci aspettiamo che questa funzionalità ritorni presto e ti avviseremo con gli aggiornamenti di rilascio quando ciò accadrà.