Google社の生成AIは『Bard』から『Gemini』に名称変更が行われ、格段に進化しました。専門的な知識の場合、ChatGPT(GPT4)よりもGemini advancedの方が優秀な部分があります。
Gemini advancedには画像生成できる機能があるのですが、ある問題によって、それが現在(2024/04/01)はできません。
なぜ、このような問題が起こっているかですが、Geminiで画像生成すると、どうやら非白人以外を多く生成してしまう、というものです。
こうした問題に対してGoogle社はXで声明を出しています。
以下は、ChatGPTの訳となります。
今回は、この問題についてAI共創カウンセリングという手法を用いて深掘りしていきたいと思います。それにより、AIの深層が少しでも理解できればと考えています。
※AIの中身はブラックボックスになっており(AIのブラックボックス問題)、今回の記事は推論になりますので、それを了承の上でご覧ください。
※私は心理学の研究所に勤務しており、心理学研究家でもあります。
⬇️PDFからもご覧いただけます⬇️
Geminiの問題
Geminiの今回の問題は、歴史的事実よりも多様性を優先して情報を生成するというアルゴリズムの問題のようです。
例えば、私たちが中世ヨーロッパをイメージする場合、登場する人物は白人を思い描くでしょう。これは歴史的事実に基づく認識です。しかし、Geminiは画像生成の殆どを非白人を描いてしまうのです。
しかし、「多様性」が理由なら、非白人を多く描くのではなく、そこに白人を程よく入れてもよいはずです。ですから、多様性よりも更に深い層に問題がある、とみます。
このことをGeminiに直接聴いたところ、「差別意識の克服」であると言います。
差別意識の克服
Geminiの言う「差別意識の克服」について、更に聴いてみることにします。
⬇️画像は重要な部分のみ抜粋⬇️
以下は全文です。
ここで起こっていることは、「過学習(Overfitting)」が起こっている可能性があります。
AIでAIを分析するAIカウンセリング
ここまでのGeminiの問題を、他のAIモデルであるChatGPTで分析するAIカウンセリングを行います。AI共創カウンセリングの開始となります。
ここから私は、前述した「過学習(Overfitting)」を指摘します。
以下はChatGPTによる過学習の説明です。
この過学習により、多様性に対して過剰適合している、というものです。
また、アテンションについても言及してみました。
そして、チャットを続けると、ChatGPTは「過剰修正(overcorrection)」について言及し出します。
過剰修正(overcorrection)
過剰修正は、ある問題やエラーに対して過剰に修正してしまうことを言います。例えば、人種差別はいけませんが、歴史的事実の情報を生成しないといけない場合に、それよりも多様性を優先し、差別を克服しようとするのが、今回のGeminiの過剰修正となります。
その背後には過学習がありますが、過学習のみでは説明できないこともあるので、それはまた後述します。
まずは、過剰修正についてのChatGPTの説明です。
次に、Geminiにおける過剰修正の問題をChatGPTに分析してもらいます。
ここでChatGPTは、
「モデルのアウトプットを定期的にレビューし、調整するための監視体制を確立する。」
と指摘しています。
私は、ここが重要でないかと考えます。そして、「過記憶(over memory)」という独自概念を用いることにしました。
このようにAIの提示する情報に人間が創造性を用いてカウンセリングするのがAI共創カウンセリングでもあります。
過記憶(over memory)
過記憶とは、多くの情報を単に入れ込んでしまい、うまく処理できない状態を言います。情報には様々なベクトルがありますが、対立や矛盾する情報もあります。例えば、今回のGeminiの問題の場合、歴史的事実の問題と多様性の問題です。
ここは私の推測ですが、GoogleはChatGPTを追い抜こうとして、かなり焦って多くの情報をGeminiに詰め込んでしまったのではないかと考えられます。そして、Geminiの情報生成の確認が不十分になってしまった。それに対してChatGPTは、段階的に情報をトレーニング・確認が行われて来たと思われます。ですから、ChatGPTのDALLE3では、このような多様性問題は起こりません。
以下、そうしたことについてChatGPTに聴いてみました。
社会的圧力
もう一度、多様性への過剰修正に話を戻します。これが起こる理由は、ChatGPTが指摘した「社会的圧力」である、と考えられます。
これを受けて、多様性に強くアテンションがかかっている、と考えられます。
その社会的圧力の説明と解決策をChatGPTにしてもらいました。
この社会的圧力がAIにかかるわけではなく、かかるのは人間であるため、Googleチームに社会的圧力がかかって、このようになっていると分析されます。
Geminiの回答
ChatGPTと共創分析した内容をGeminiに入力し、Geminiの反応を見ていきます。
次に過剰修正についてを入力。するとGemini側も情報を追加します。
社会的圧力に対してもGeminiは認める内容を出力します。
最後に私とChatGPTの結論をGeminiに入力して反応をみます。
ChatGPTの回答
このGeminiの最終回答をChatGPTに入力してみました。
このようにあるAIの問題を別のAIと人間が共創してカウンセリングするのが、AI共創カウンセリングとなります。
AI共創カウンセリングとは
最後に、AI共創カウンセリングについて述べたいと思います。
AI共創カウンセリングとは、あるAIの問題に対して、他のAIと人間が共創してカウンセリングを行うことを言います(これは対象がAIではなく人間でも可能です)。
まず、ここまでのやり取りを「AI共創カウンセリング」として、ChatGPTに感想を求めてみました。
そして、以上のことをChatGPTに定義してもらいました。
そして、AI共創カウンセリングについてGeminiにも聴いてみました。
AI共創カウンセリングの感想
AI共創カウンセリングの感想をGeminiに聴いてみました。
と、いうことでまた!
佐藤源彦