機械の前に人間の意思決定を考える必要がある
あるアルゴリズムから偏見をなくすのは実現不可能だとプログラマが判断したなら、そのアルゴリズムは公共の使用に供するべきではなく、廃止すべきです。
記事の内容は、差別をするアルゴリズムは「廃止すべき」という内容。 正直なところ、海外だけでなく日本でもこういう論調の人が多いです。特に政治も好きなビジネス系の方に多い。 ただ、それ自体が極端すぎるバイアスがあると僕は思っています。
もちろん、人をゴリラと認識する画像認識の処理は、その人を不快にさせる場合がある。別な例では、ある特定の政治的な思想の投稿を「不適切」と決めつけて自動で排除する処理を入れる場合もあります。 この二つの例は、ユーザ側の例と、企業側の例です。
それぞれ、意思決定のレイヤーが異なります。 前者は個人のレイヤーで、後者は三人称世界のレイヤーです。
僕は本来のリベラル（極端な無政府主義ではなく、個人の自由を優先する）に近い思想なので、どちらかというと、前者の「人をゴリラと認識する」のは許せますが、後者の「特定の思想を排除する」のは許せません。
つまり、差別、バイアスと言っても種類が色々あるし、視点で変わります。
そもそもアルゴリズムと言っても、現実のサービスは機械学習だけでやるわけではなく、そのあとの単なる条件分岐もある。自動運転でもレイヤー分けされています。普通はです。 人工知能と言われる機械学習の箇所で全てを判断はしないことが多い。
人は「本能のまま」生きてはいません。
行動前の犯罪、「アイツは犯罪しそうだ」では逮捕されません。 AIのバイアス議論は、その行動前の議論をしているようにも見えます。 おそらくこのレイヤーは、一生解決できません。
また、意思決定だから「脳の問題」と考えがちですが、身体の問題も考慮しなければいけないと思います。つまり「自分が打てる手段と数」の問題でもあります。選択肢に殺人という選択肢があるから、復讐でロケットランチャーが出てくるわけです。目の前にロケットランチャーがあるからロケットランチャーを使う。
基本的に脳だけで人を殺せません。 手など、行動に移せる手段が必要になる。少なくとも声がいる。
声で殺人とまでは言わないけれども、似た現象はよく見ます。 マスメディアの過剰なバイアスのニュースもそれです。演出です。
冤罪、口コミもそう。 豊川信用金庫事件、光文事件。 マスメディアが間違えた場合は、サラッと数秒で訂正して終わりますが、その背景に何時間も何年も苦しんだ人がいる。 ロケットランチャーがなくても人を殺せるかもしれません。その場合も選択肢の話です。 口や手があるから問題が起きる。 脳だけの意思決定では他人に害を加えません。
主観的な100％は存在するけど、客観的な100%は存在しないのが現実だと思います。 主観的な100％は、ジンクスみたいなものです。「家から出るときに左足から出ると、身体の調子がいい」 これは、主観的なものなので、誰も反対できない。どれだけ信じるかの話です。
天気予報で降水確率が60％の場合、傘を持っていく判断をするかどうかです。 それは、過去の自分の経験も踏まえた上での60％で判断します。
そして、面白いことに、現実の行動としては、傘を「持っていく」「持っていかない」の二択になる。
哲学の話です。カントから色々な人が考えていますが、その答えはない。
「我思う、ゆえに我あり」みたいなシンプルな話の延長線上なんですが、それは意思決定についても言えます。
今問題と言われている機械学習込みの意思決定システムの問題は、現実世界に入り込んだデザインになっています。それは意思決定（脳）ではなく、行動（手）です。 そして、現実社会の人間は本能ではなく理性の結果で行動します。それならば機械も機械学習だけではなく、単なる条件分岐で理性を得るという手段が一番妥当だとも思います。 機械に合わせるのではなく人の社会に合わせる。（社会は時代で変わっていきます）
もっというと、現状の理性がない意思決定では、酔っ払っているのと一緒だとも言えます。正常な判断をしているとは言えない。つまり、帰納法は正常ではない可能性があります。（言い過ぎだ！w）
一生書けそうなので、中途半端ですが終わります。
色々と書きましたが、言いたいことは、機械のバイアスを排除しろという流れ自体がバイアスがあるという話です。
＊ちなみに、僕は途中でリベラルと書きましたが、極端な無政府主義、アナーキーな感じではないし普通に働く人なので、なんというか普通ですよw いわゆる日本のマスコミが言うリベラルとも少し違います。UNIX大好きです。
意思決定についての考え方は、サービスやアルゴリズムの設計時に滲み出てくるものなので、興味があるだけです。
「こういった視点もあるよね。」というだけです。 特別何かに反対したいわけでもないです。 リベラルなのでw 自由であるべきです。