AIと倫理　バイアスの解消法

こんにちは。シンラボ共同代表の草場です。

ディープラーニングを実践する上で最高のコンテンツ、FASTAIをやってます。まずはプロジェクトを組んでやってみることがおススメです。読んでいるだけで楽しいです。引き続き、AI倫理に関してです。

データ倫理のトピックスをまとめていきます。

リコースとアカウンタビリティの必要性
フィードバックループ
バイアス
偽情報

では、バイアスをどうやって、解消するのでしょうか？タイプにより異なります。

異なるタイプのバイアスへの対応
バイアスの種類によって、軽減のためのアプローチが異なります。
より多様なデータセットを集めることで表現上のバイアスが出来ますが、歴史的なバイアスや測定上のバイアスには対処できないです。

まずは、以下が大事です。

すべてのデータセットにはバイアスがあります。完全にバイアスのないデータセットというものは存在しません。

研究者も頑張っています。

この分野の多くの研究者は、特定のデータセットがどのようにして、またなぜ作られたのか、 どのような場面で使うのが適切なのか、どのような限界があるのかについて、決定事項、文脈、 詳細をよりよく文書化できるようにするための一連の提案に収斂してきています。そうすれば、特定のデータセットを使用する際に、そのバイアスや限界に気づかされることはありません。

データ自体だけではなく、機械学習アルゴリズムにも、バイアスがあります。

機械学習はフィードバックループを作ることができる：少量のバイアスが、フィードバックループにより急激に指数関数的に増加することがある。

機械学習はバイアスを増幅させることがある：人間のバイアスは、機械学習のバイアスをより大きくする可能性があります。

アルゴリズムと人間は異なる使い方をする：人間の意思決定者とアルゴリズムの意思決定者は、実際にはプラグアンドプレイで交換可能な形では使われない。

テクノロジーはパワー：そしてそれには責任が伴います。

すべて以前議論した部分ですね。Youtubeによるフィードバックループ、バイアスの増幅。テクノロジーそれ自身に力があるため、その力をどう使うかに責任があります。

人間は、アルゴリズムが客観的でエラーがないと思い込みがちです。

しかし、、

バイアスがかかっていなくても、アルゴリズムは、偽情報に利用されるなど、社会的にネガティブな問題を引き起こす可能性があります。

フェイクニュースは今後問題ですね。

草場壽一
https://sinlab.future-tech-association.org/