人間や生成AIのバイアスと多様性は両立できるのか
私意外と真面目なので、先日このような本を読みました。
行動経済学からちょっと離れた部分ですが、参考になったのが「DEI」という言葉です。
DEIとは
ダイバーシティ（多様性）、エクイティ（公平性）、インクルージョン（包括性）のことで、ものすごいテキトーな説明をすると多様性、公平性の包括を実現しましょう。と言った意味です。
知らんけど。
ここで問題になるのが偏見やバイアスです。
誰しもが持っていて、無意識に起こるものなので対策しづらいです。
バイアスとは
めんどいのでここはBardに書かせました。
バイアスとは、認識の歪みや偏りを表現する言葉です。
人の思考や行動に特定の偏りをもたらす思い込みや、得られる情報が偏っていることによる認識の歪みのことを指します。
バイアスは、誰もが持っているものです。経験や思い込み、周りの環境などによって、物事を非合理的に判断してしまうことがあります。
バイアスは、ビジネスシーンでも問題になることがあります。
たとえば、人事評価において、ある特定の属性を持つ人に対して偏った評価を下してしまうことがあります。
また、マーケティングにおいて、特定の属性を持つ人に対して偏った情報を発信してしまうことがあります。
バイアスを認識し、対策を講じることで、より公平で客観的な判断を下すことができます。
バイアスの具体例としては、以下のようなものがあげられます。
選択バイアス：ある特定の情報や選択肢に注目してしまい、他の情報を無視してしまうこと
確認バイアス：自分の思い込みや信念を裏付ける情報に注目し、反証する情報を無視してしまうこと
帰属バイアス：自分の成功は自分の努力によるもの、自分の失敗は外部要因によるものと思い込んでしまうこと
正常性バイアス：自分はトラブルに巻き込まれない、自分は助かると思ってしまうこと
バイアスを防ぐためには、以下のような対策が考えられます。
多角的な視点から物事を見る
自分の思い込みや信念を疑ってみる
異なる意見や考え方を聞く
情報収集の際に、偏りがないか確認する
バイアスは、誰もが持っているものです。しかし、バイアスを認識し、対策を講じることで、より公平で客観的な判断を下すことができます。
Bardに書かせることによって、次の段落に自然に行けるようにしました。嘘です。
大規模言語モデル（LLM）とは
ChatGPTのGPTモデルばっかり注目されてますが、GoogleのPaLMや、metaのLLaMaとか色々あるんですよ。（大文字小文字があってる自信ない）
精度については、良くも悪くも各々思うところがあると思うので置いといて、LLMの基本構造は「確率論」であるという所にフォーカスします。
GPTに代表されるLLMは、単語の並びから次に来る単語を予想して返答を作っています。
「1つしか候補がない」ということはほとんどないので、80％の確率でAと出力して、20％の確率でBと出力するイメージです。
ダメな回答をすると「ダメだよ」と教えてあげることで精度が上がっていきますが、大元はGPTならOpen AIがある程度教えてあげています。
そもそもダメダメな状態でリリースしてもダメダメなものができたとしか思われないですからね。
ただそれでも低確率で、誤った回答をしたり、ダメダメな回答をします。
機械なのでしょうがないっちゃしょうがないんですけど理解して使わなければなりません。
LLMにかかるバイアス
あと人を不快にさせるなどの問題のある出力もしないようにリリース時点で設定されています。
差別的な発言なども返答しないように設定されているのですが、見方を変えれば、OpenAIのバイアスがかかっているとも言えますし、あくまで学術的に情報が欲しい場合などでも使いにくいものになっています。
まあしゃーないけども。
しかし、WEBと連携することで、悪意のあるバイアスを植え付けられることもあります。
人間をカテゴライズするべきではないのではなかろうか
Bardの回答の中にあったものですが、マーケティングや新商品などは、顧客ターゲットを頭の中で描きながら施策を売ったり、広告もターゲティングを絞って配信します。
業界では常識ですが、これがそもそもバイアスまみれです。
Z世代とかカテゴライズしたところで好みは人それぞれです。
もっと言えば「女性に優しい」とかいうフレーズもバイアスまみれな気がします。
ビジネスで失敗するぐらいなら別にいいですが、「若者の動向」などと言われた若者はイラッとするでしょうし、「女性に優しい」商品にあんまり優しさを感じなかったら傷つくかもしれません。
また、「ご年配の方に優しい」設計をされている建物は、そもそも人間に優しい設計をされている建物とも言えます。
わざわざ差別する必要もないので「ユニバーサルデザイン」という言葉ができた気がするのですが、傷つきにくい方々へは依然としてゴリゴリにやっている状況です。
その意識がないまま突き進むと、多様性に対する意識が高まった頃にいよいよやべえ自体に陥ります。
どれだけの物が炎上するリスクがあり、テキスト修正やイラスト修正に追われるのか考えると、マジやべえとしか言えません。
その前に、今一度自分の考えを改めなければなりませんね。（自戒込み）
#未来のためにできること
基本的にふざけてます。たまに真面目になります。ギャップ萌えです。