Geminiが疑わしいコンテンツを作成したため、Googleは人物のAI画像生成を一時停止する

TL;DR

• Googleは、人物が写ったAI画像を作成するGeminiの機能を一時的に停止した。
• これは、ジェミニがひどく不正確な歴史イメージを作成していることに対する反発への対応である。
• たとえば、ジェミニは第二次世界大戦時代のナチスの正確なイメージを作成することを拒否し、代わりに人種を多様にすることを選択しました。

過去24時間にわたり、Googleは当初Bardとして知られていた新たな名前のAIシステム「Gemini」に対する反発の高まりに直面してきた。 Gemini の内部には Gemini Pro と呼ばれる新しい LLM が組み込まれていますが、これは人物を含む画像生成においてかなり顕著な間違いを犯しています。

さて、Googleは「一時停止した」 ジェミニ内の人々のAI画像生成。 もともと反発が始まったとき、Googleは問題の解決に取り組んでいると発表した。 しかし、現在はすべて閉鎖されているため、事態は収拾がつかなくなっているようです。

現時点では、Gemini で人物が含まれる画像を生成しようとすると、Gemini はそれはできないと応答します。

返答によれば、この機能は「間もなく復活」し、Google はその旨を通知する予定です。 リリースアップデートハブ。 興味深いことに、そのハブは人々の世代の「一時停止」について何も言及していません。

この問題全体は、ソーシャルメディアが次のような考えを取り上げ始めたときに始まりました。 ジェミニは、プロンプトが出されても、正確な歴史的および人種的イメージを作成しません。 たとえば、第二次世界大戦時代のナチスの画像を作成するように促すと、人種的に多様なキャラクターが甦ることになりますが、これは完全に不正確です。 理論的には、これはAIが生成した画像に関する広範な問題、つまり人種的に多様な世界を反映していない傾向があるという問題をジェミニが過剰修正している可能性がある。 Googleは、Gemini内でこの問題を修正したいと何度も表明している。 おそらくダイヤルを少し回しすぎたのでしょう。

現時点では、AI によって生成された人物の画像を作成したい場合は、競合他社のプラットフォームを使用する必要があります。