Google a dû freiner sa génération de texte-image Gemini AI en ce qui concerne les humains. La controverse a éclaté sur les réseaux sociaux cette semaine, Google confirmant que son offre d’IA la plus puissante jamais créée créait effectivement des images comportant des « inexactitudes » historiques.
Le lancement de Gemini semblait au départ bien se passer pour Google, mais plus tôt cette semaine, les utilisateurs des médias sociaux ont commencé à remarquer que lorsqu’il s’agissait de générer des images de personnages historiques, Gemini semblait avoir son propre esprit. Certains exemples partagés montraient que Gemini rendait des images de pères fondateurs des États-Unis comme étant afro-américains et de soldats nazis allemands de 1943 comme étant d’origine asiatique et afro-américaine. Suite à la réaction négative, Google a rapidement réagi en supprimant la capacité de Gemini à créer des images, y compris des humains, et a publié une déclaration partagée via X/Twitter.
Advertisement
Google a fait remarquer : « Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Pendant ce temps, nous allons suspendre la génération d’images de personnes et rééditerons bientôt une version améliorée. Un tweet précédent ajoutait : « La génération d’images IA de Gemini génère un large éventail de personnes. Bien que ce soit généralement une bonne chose car des gens du monde entier l’utilisent. Mais ici, on manque le but. »
Elon Musk a été l’une des voix les plus véhémentes sur X/Twitter concernant cette question. Dans un tweet aujourd’hui, Musk a déclaré : « Un cadre supérieur de Google m’a appelé et m’a parlé pendant une heure hier soir. Il m’a assuré qu’ils prenaient des mesures immédiates pour remédier aux préjugés raciaux et sexistes chez les Gémeaux. Il a conclu : « Le temps nous le dira. »
John Krawczk, directeur principal des produits pour Gemini chez Google, a fait remarquer dans un communiqué que les capacités de génération d’images de l’entreprise sont le reflet de sa « base d’utilisateurs mondiale » massive et qu’elle prend « au sérieux la représentation et les préjugés ». Il a ajouté : « Nous continuerons à faire cela pour les invites ouvertes (les images d’une personne promenant un chien sont universelles !). Les contextes historiques sont plus nuancés et nous nous adapterons davantage pour y tenir compte.
Actuellement, si un utilisateur de Gemini demande une création texte-image incluant une personne, l’IA répondra : « Nous travaillons à améliorer la capacité de Gemini à générer des images de personnes. Nous prévoyons que cette fonctionnalité reviendra bientôt et vous informerons dans les mises à jour de la version lorsque ce sera le cas.
Advertisement