見出し画像

機械学習と倫理に関する一考察

hiro

はじめに

　既に機械学習（以降、MLと略します）と安全性については書きましたが、今回はMLと倫理についてさらに考察します。
　安全性と倫理は密接に関係しています。なぜなら、MLが、さらにMLのユーザーが倫理的な判断基準を逸脱して、安全を侵害する行為をする可能性があるためです。一方、倫理（観）は基となる法律、文化、風習、宗教、価値観によって多様であり、一般化するのは困難であるとされています。そのため、包括的なアプローチ（全体を見てあらゆる点に対応する）が必要とされています。

倫理

　倫理に係るステークホルダー（利害関係者）は人間ですが、人間に係る動植物、無生物、環境も含めて考察します。無生物については人間の所有権や管理責任の観点で扱います。環境については、例えば気象、自然（災害）など人間の管理責任を超えているケースもありますが含めます。

基本的な倫理原則として以下の５つが挙げられます。

- 生命の尊重(命を奪ったり、傷害を与えたりしてはいけません)
- 財産権の尊重(財産や知的所有権を不当に侵害してはいけません)
- 公平性と差別の排除(力の有無に関わらず公平に扱われるべきです)
- プライバシーの尊重
- 環境への配慮

さらに、基本倫理原則に対する透明性と説明責任も重要です。
多くの人間を（国民の生命）を守る必要がある場合に、例外があると言われる方がいるかもしれません（不透明性、説明できない）。ここで深堀すると政治体制の話になるため今はしません。

　倫理は国内に於いても状況によって判断が分かれる複雑な問題であり、多様性を尊重しつつ、基本的な倫理観と公正さを守ることが不可欠です。

機械学習の倫理的課題

バイアスと差別：機械学習アルゴリズムは学習データに含まれるバイアスを学習することがあります。これにより、人種、性別、年齢、社会的背景（財産、学歴、職歴、役職、出生、病気歴、所有物、作成物など）などに基づく差別的な判断が生じる可能性があります。そのため、バイアスを検出し、修正する手法が求められます。

プライバシー：データ収集と利用において、ユーザーのプライバシーを侵害しないようにする必要があります。ユーザーの何のデータを何に利用するかをユーザーに同意をとる必要があります。ここで、ユーザーは人間で、機械学習に対してデータを供与、または、機械学習のサービスの提供を受ける者です。取得したユーザー個人情報の保護と、その個人情報に基づくデータセキュリティを遵守する必要があります。

環境への配慮：機械学習には多くの計算リソース（例えばデータの学習に必要な計算機、メモリー、それらを動かす電力、発熱を抑える冷却水など、今話題のデータセンターです）が必要であり、特に電力消費が増加しています。そのため環境への配慮が求められます。

透明性と説明責任:機械学習の意思決定プロセスを説明可能にすることで、ユーザーが結果を理解できるようにする必要があります。

機械学習の倫理対応手法

  1. 多様なデータセットの使用

    • 偏りのないデータセットを使用することで、バイアスを軽減します。

    • 特定言語で表現されたデータのみでなく、言語の壁を取り除き多くの国の多くの情報、データを使用します。

  2. プライバシーの保護

    • ユーザーのプライバシーを保護しながら、適切なデータを収集します。

    • プライバシーが保護されていることを説明できるようにします。

  3. 透明性の向上

    • 機械学習の意思決定プロセスを説明可能にする技術を採用します。

    • ユーザーに結果を理解できる形で伝えることが重要です。

  4. 倫理的ガイドラインの策定:

    • 機械学習の開発者や利用者に向けて倫理的ガイドラインを策定し、適切な開発と使用を促進します。

    • 倫理的な判断基準を明確にし、公平性と差別の排除を重視します。

現状と展望

  • AI技術の進化に伴い、倫理的な課題に対する技術開発が行われています[1]。

  • 国際的な規制やガイドラインが整備され、機械学習の安全性と倫理的な使用に向けた取り組みが進んでいます[2,3]。

まとめ

　機械学習の倫理的課題に関する技術開発が、さらにガイドラインという形で、機械学習の開発、学習、利用係るルールが作られようとしています。ガイドラインが遵守されるまでは、さまざまな問題が露見しています（コメントを参照）。
　一方、基本倫理を遵守する世界共通のLLMにプラスする形で日本特有のLLMがあってもよいと思います。そのためにLLMは、日本人特有の倫理観（法律、文化、風習など）のもとに追加学習されるべきと考えます。ただし、あまりに閉鎖的になり過ぎると、世界的にみた多様性が失われるおそれがあるため、国際的な視点とのバランスが必要です。
　製造業（とりわけ輸出製品）でのAIの利用に際しては、国際規格に基づくAIの安全の遵守が要求されることになると思います。

コメント

　LLMの出現により、サイバーセキュリティー攻撃が増えていると言う話を聞きます。それもLLMを使用することで攻撃を意図する者が学習したことのないアルゴリズム、手法、さらに作成したことのないプログラムが作成できるため、今までにない悪事をすることが可能になっています[4,5]。そいう意味でも早期にAI利用の倫理ガイド、さらには法律が整備されることを期待します。

参考資料

[1]AIとデータプライバシー：機械学習の倫理的課題 | Reinforz Insight
[2]産総研：機械学習品質マネジメントガイドラインを公開 (aist.go.jp)
[3]AIQuality-requirements-rev4.2.0.0113-signed.pdf (aist.go.jp)
[4]大規模言語モデル（LLM）の隠れたリスク：催眠術をかけられたAIの実状 (ibm.com)
[5]ASCII.jp：生成AI／LLMをサイバー攻撃に悪用する「6つの手法」…防ぐ手だてはあるか？

変更履歴

Rev. 2024.5.4　初版


この記事が気に入ったらサポートをしてみませんか？