弱いAIのデザイン

BNNの「弱いAIのデザイン〜人工知能時代のインターフェース設計論〜」を読んだので感想を書きます。

本書は弱いAI、いわゆるSFに出てくるようななんでも応えてくれるような万能型のAIではなく、自動で何らかの処理や働きをしてくれるようなAI、人の特定のタスクを代行してくれるエージェントとしてのアプリケーションサービスを対象とした設計論です。AIや人工知能というと深層学習と組み合わさってシンギュラリティ！みたいな話が多い昨今ですが、そういうのとは対極の、今日で現実的な範囲を考察の対象としていて、ウェブサービスや家電製品などの”ユーザーとのインタラクションを求められる＆ユーザーが行っていた何らかの作業を代理する”プロダクトを開発する仕事をしている人には参考になる本でした。

三種のAI

まず本書ではAIを三種に定義しています。

1_スーパーAI（神の如き超人型AI、ASI、Artificial Super Intelligence）
2_汎用AI（人間のような抽象思考AI、AGI、Artificial General Intelligence）
3_弱いAI(特定機能特化型AI、ANI、Artificial Narrow Intelligence)

の三種です。AIというと多くの人が1と2をイメージすることと思いますが、現在我々が最も付き合いが多いAIが３の弱いAIです。ルンバのような自動掃除機、spotifyのような音楽をリコメンドしてくれるサービス、nestサーモスタットのような自動空調システム、最近普及が始まったgoogle homeなどのVUI機器も現時点ではこの範疇かもしれません。本書ではこの弱いAIをエージェントと呼び、サービスとしてのエージェントをデザインする際の様々なデザインポイントを解説していきます。本書は単独で読むのも面白いですが、様々な部分的なケーススタディが出てくるので、実際にサービスやエージェントをデザインする業務の傍ら、自分が今やっているプロジェクトと照らし合わせて読むとより学びが多い本だなと感じました。

信頼関係と期待値のデザイン

本書を読んで感じたのは、これからのインタラクションデザインで重要になってくるのは「信頼関係と期待値のデザイン」だということです。
機器が高機能になってきて、特定領域に縛られるとはいえ、各エージェントシステムは色々なことができるようにはなってきています。それにつれて、各エージェントシステムに対するユーザーの期待値も高くなってきていて、ユーザーが求める体験とずれた働きをした時の失望も大きくなってきています。変な翻訳をされた、全然趣味じゃない音楽ばっかかかる、全然歩きやすくないルートを案内される、想像してたより床がきれいになってない等。
これらはすべて、エージェントが過度に信頼されたり、実際以上の万能感を期待させていることから来ています。エージェントシステムは弱いAIとはいえ、どのシステムもかなり複雑な仕組みをしているので、ユーザーの期待やイレギュラーなケースに完全に対応することは難しいのがほとんどです。それらの現実的なエージェントの能力の限界を踏まえた上で、「適度な信頼レベルを伝える」「過度な期待をさせない」などの工夫を盛り込む事が必要で、こういった「心理的なちょうど良さ」をデザインするテクニックはこれからのインタラクションデザインのコアスキルになっていくでしょう。

インタラクションデザインというのはモノや環境とヒトとの間の信頼性をつくることです。ヒトはモノ（エージェント）が不具合を起こしたときに人の手で再設定をしなければいけません。システムの失敗や復旧作業の発生はエージェントに対する信頼をジェットコースターのように失墜させます。例外事象の際にエージェントから人間に引き継ぐ作業（ハンズオン）の作法をどう適切な期待値にあった表現にするか精査しながらデザインする必要があります。

エージェントシステムのデザインはその性質上、デザインの見積もりとアウトプットの質を事前に予測するのが不可能という側面があります。作りながらフィードバックを得て検討していく以外の効率的なデザイン方法はまだ発見されていません。そのため、最初から満足を与えるエージェントがリリースされることは殆どありません。

監視のお作法

基本的にヒトは初めて接するハイテク製品については懐疑的です。ヒトはその仕組が信頼できると判断できる体験をするまで疑念を振り払いません。そこは上記の信頼感のデザインと密接に関係した問題であり、本書でも取り上げられています。その行為を本書では「監視」と表現していて、ユーザーは”ちゃんと動いているかわかるまで”エージェントの動作や状態を監視したがる、うまく信頼を得れるように監視行為に関するインタラクションデザインも適切に行う必要があると説いています。

私がこの”人の監視欲求”に関するデザインのケーススタディだなぁと思うのはダイソンの掃除機です。ダイソン以前のデザインは掃除機の中身を見せるのは外観デザイン上美しくないし、汚いものは隠すべきだという思想でデザインされていたように思います。しかし、サイクロンという機構や吸い取れている実感を得てもらうという”監視欲求に対するデザイン”の回答としては、その反対の吸い取った結果が常に監視できるデザインが効果的でした。実際の吸引スペックだけではなく、この”監視欲求に対するデザイン”が製品の浸透にかなり貢献したはずです。初期のハイブリッドカーのインパネ表示のデザインなども同様の文脈だと思います。MacOSのプログレスインターフェースの変化にも似たようなことを感じていたりもして、以前はプログレスバー（プロセスの進捗を示すバー）が出ていたような処理の際に、最近のバージョンではカラフルな円形アイコンがぐるぐる廻るだけに変化しています。これはMacOSの浸透から、対する疑念や監視欲求がかなり少なくなったことからプログレスバーの必要性がなくなってきたのではと思っています。その製品やサービスに対する監視欲求に対して適切な情報開示や進捗開示をしてあげることがエージェントへの信頼感につながるというのは、インタラクションデザインの際にかなり具体的に役に立つ見方だと思いました。

擬人化はするな

具体的なデザイン指針として共感したのは”擬人化はするな”という部分です。ヒトは擬人化されたものには自分たちと同じくらいの理解力や汎用性を求めるから、擬人化するということはエージェントに対する期待値を上げてしまう事になり、意図通りの回答や動きができなかった際の信頼性の失墜に一役買ってしまうからと言うものです。siriやAlexa,google homeなどのVUIのスマートスピーカーに対するネガティブな意見の大半がこの擬人化デザインと期待値の高さからに見受けられます。ヒトは擬人化されたものに期待をしすぎてしまう。
2016年にCOTOREESという鳥型スマートスピーカーをつくったとき、この擬人化の弊害についてneurowearのなかのさんがプロジェクトの際に同様のことを話していたことを思い出しました。このインタビュー記事は今読んでも納得感があります（この頃はこんなにスマートスピーカー乱立するとは思わなかった）。

その他のトピック

- ガードレール体験の重要性

- フォースポジティブとネガティブポジティブ

- エージェントに磨きをかける

- 黄金時代と暗黒時代

- エージェントのダークサイド

本書は他にも上記のような様々な面白いトピックが入っていて、エージェントシステムとかインタラクションデザインとかUXデザインとかプロダクトデザインとかサービスデザインとかの界隈でお仕事をされている方には多くの学びや視点が得られる良書だと感じました。こういう本は実務の合間に繰り返し読むような読み方をすると実務への反映効果が高いと思うので、仕事机に置いておくような読み方をおすすめします:)