道徳的な判断を行うためのヒントをAIが引き出す

論文：https://doi.org/10.48550/arXiv.2212.10409

ワシントン大などの研究グループが開発したAIシステム「CLARIFY DELPHI」は、人間が道徳的な判断を行う際に、さまざまな文脈（事情や背景など）を引き出す質問を生成します。

道徳的な判断は、例えば「友人に嘘をつく」ことは一般的に悪いとされていても、それが仮に友人の命を助けるためであれば許容されるという場合を考慮して行わなければいけません。

研究グループは、強化学習フレームワークを応用して、道徳的判断の根拠となるシチュエーションを洗い出す質問を生成するAIシステムを構築しました。

法律の現場では弁護士や裁判官、検察官、警察官、教育の現場では教師や父兄などが活用することが見込まれるテクノロジーです。