人工知能システムのインターフェース設計

まず、話の前提として、人工知能という言葉はあまりにも語義が曖昧なため、研究者や一般の方、マーケターで全然違う意味で使われてしまっており、ただのマジックワードと化してしまっていって、議論を組み立てるためのスタートとしてはあまり適切でない状況と言える。
本来であれば、機械学習システムや対話システムなどスコープを限定して語るほうが誠実な態度だが、あえてこの単語を使って、大きい話にしてみたいと思う。

2020年3月に社会を騒がしているのは、ジェンダー論的に見た人工知能のあり方だ。
人工知能学会誌の表紙デザイン問題の頃から、この問題はしばしば国内で話題になっているが、ではそもそもの落とし所として、どのようなものが適切であるかについてはまだまだ議論の途上と言ったところだ。

高輪ゲートウェイ駅の“AI駅員”に賛否　「かわいすぎる」「なぜ女性だけアニメにした？」など意見分かれる | ねとらぼ調査隊

また国内だけでなく、世界的にも人工知能のインターフェースデザインにおけるジェンダーバイアスについての議論はホットな分野で、朝日の記事にも簡単に紹介されている。

高輪新駅のAI「さくらさん」、セクハラ受け流しで物議：朝日新聞デジタル

人工知能と呼ばれるような一連のシステム、特に人間のようなインターフェースを持つ対話システムと呼ばれる分野は、このようにインターフェースデザインが非常に重要な分野だ。

各社が出しているアシスタントシステムはVUIとも呼ばれ、各社のプラットフォーム上で動作するボットを作成するためのフレームワークには、GUIのスタイルガイドのように、デザインガイドに当たるドキュメントを公開していることが多い。

はじめに | Alexa Skills Kit

Introduction - Siri - Human Interface Guidelines - Apple Developer

Conversation design  |  Conversational Actions  |  Google Developers

これらをざっと読んで見て頂くとわかるように、現在AIの代表格として扱われがちな対話システムは、「人工無能」として蔑称されるようなシステムと基本的には変わらず、ほとんどの部分は人間が作り込む必要があるという点だ。

どのような台詞を言われたらどのように返すのか、台詞のバリエーションをどこまで考慮するのか、会話のコンテキストをどこまで考慮しておくのか、などは人間が設計し、人間がプログラミングなどを駆使して組み立てる必要がある。

「人工無能」と呼ばれるものから進歩している点としては、自然言語理解と呼ばれる分野が発展し、人間が想定している範囲であれば、ユーザーの意図を汲み取りやすくなったこと、対話システムの裏につなぎこまれている、検索システムやレコメンドシステムの性能が上がったくらいだ。

これらが示すことは、人工知能（対話システム）においても通常のシステムと同じように、人間とシステムがどう関わるかについて、システム設計者が丹念にデザインしてやる必要があるということだ。

対話システムにおいては、どのようなキャラクターが応答してくれるのか、そのキャラクターの一貫性をどこで担保するか、コミュニケーションを円滑にするためにキャラクターの応答をどう設計するか、自然な会話になるように意図がうまく把握できなかった場合などにどう応答を返すかなど、技術的にもインターフェース設計的にもなかなか難しいテーマが山盛りである。

システムの制作者は、本来であればこれだけのことを考慮してシステムを作っていく必要があるが、一つ一つのシステムについてそこまで考える時間がないというのが本音と言ったところではないかと思う。

そのため、ついつい受け手と作り手の間で暗黙のうちに合意が取れている、ステレオタイプ的なキャラクター設計を安易に導入してしまうという事情も非常によく理解できる。
そしてこれは、対話システムに限らず、コミュニケーション設計が必要なあらゆる分野で見られる現象でもある。

結局の所、重要なのはシステムと人間がどう関わるかをデザインする所で、そこは中で使用されている技術がどれほど高度になろうと変わらない。

機械学習システムにおいて、モデルの説明性や解釈性、人間のフィードバックを機械学習モデルの学習に活用するHuman-in-the-loopが話題になるのも、それらのシステムと人間が協調行動をするにあたって、重要な要素だからだ。

逆に言うと、人工知能システムが普及しない最大のボトルネックもここにあるのだという危機感の現れでもあるのだと考えられる。
人間を補助し、人間に補助してもらえるようなインターフェース設計のパターンが、今この分野が最も必要としているものの一つなのだ。