AIサービスの普及で起きる人の認識の変化
数日前からアマゾンエコーが突然笑い出すと言う「珍事件」が発生しています。
アマゾンもその問題を認識して、今は修正中らしいのですが、まだ解決していない段階です。
これはユーザからすると「怖い」です。突然笑い出すのですから。幽霊がいるの？とか色々考えれます。
それに、これは「失礼」です。真剣な会議や、家族内でも真剣な話をしているときに笑い出すこともありえます。
別れ話をしている最中にスマートスピーカーが笑ったら？（いや、これは案外面白いかも？w）
この問題をもう少し俯瞰して見てみると面白い、人の本質的なことが見えてくると思います。
グリッチもしくはハプニング
ちょっと芸術の話を書きます。
意図しないこと。それはグリッチです。現代音楽では、楽譜に黒い点を置く作業から解放された段階から「それ」は既に起きているのですが、「それ」とは意図しない音を作品に組み込むという手法です。そして、それは意図しないから「ハプニング」でもあります。
現代芸術での「ハプニング」は「価値がある」と評価されていました。その体験はここでしか出来ない。しかも基本的に一度しか体験できない。2回目の体験は1回目の体験とは全然違います。一回きりの体験の価値。自分自身しかできない体験です。
グリッチを作品に取り入れるとはハプニングを取り入れることです。
また、意図したグリッチも存在します。例えば音でいうとMax/mspという音響をビジュアルプログラミングで作るソフトウェアで作る音が、それの代表です。
もちろんプログラミングでなくても、グリッチは作れます。
例えば、アナログな手法としては、スピーカーにケーブルを差し込む時の「ざざっ」という音。これはグリッチ音と呼べます。
もっと代表的な作品を挙げると最近だと以下の動画です。グリッチとは「音」だけではなく「目や映像」も同様です。
*グリッチという意味はそもそも「欠陥，故障」という意味
これは、既存の「音楽」とはイメージが違うと思います。ですが、明らかに音楽です。アートです。
何故これが芸術と言えるのかは、ここでは詳しく書きませんが、今回書きたいことの重要な点がこの時点で伝わる可能性もあります。
それは「今までと道具の概念が変わる」「利用する側の人の認識が変化する」ことです。
ここでいう「利用する側」とは開発者も含みます。
平たく言うと、グリッチを使うとは何か？そして、それをアートだと認識できるか？
ここからは、もっと分かりやすく芸術ではなく、もう少し所謂ビジネス的な視点で書きます。実際のAIサービスについてです。
AI製品の使い方は近年変わってきている。
前にも書いたのですが、そもそもGoogle検索も「AIサービス」と言えます。Googleが表現する検索結果のアルゴリズムは不明です。最初、創業者の作ったページランクがアルゴリズムのコア部分だったと思いますが、今は分かりません。本質的にはページランクの効果と同じような「収束するリンク先」を僕らに提示しているとは思いますが、本質的には何をしているのか分かりません。想像しかできない。
そのグーグル検索を利用している行為を文字で表現すると「AIが選んだ選択肢の中から選ぶ」ことです。
そのAIが表現した「検索結果」を何故僕らは「妥当」と判断するのか?
逆に言えば、何故グーグルの検索サービスは「使いやすい」と思われるのか。
不思議です。何故なら本質的には「グーグルの検索結果」を僕らはコントロールできないからです。
コントロールできないけど、何となく欲しい情報を表現してくれているから納得しているとも言えます。
これからのAIサービス
僕は今回の「スマートスピーカの突然笑い出す問題」は「僕らに選択肢を与えていない」という設計からくる問題だと考えています。というか、そもそも最近のAI製品はそういうものになってきています。人が介在すること自体を排除するデザインです。
基本の動作は「声」のインプットが必要です。それに対してレスポンスをする。でも、その声のインプットの認識は「AI」が行います。文字情報に最終的には直しているとは思いますが、文字情報に変換することが必要で、その過程を僕らは確認ができない。
基本は一番確率が高いものを返しているか、全く不明なら不明というか。そのあたりもデザイン次第だろうとは思いますが、基本的に僕らは過程をコントロールできません。そもそもコントロールしないことこそが価値とも言えるからです。
この設計は昔から可能でした。ですが、Googleの囲碁など、深層学習と強化学習との組み合わせの技術などなど。計算のリソースが整っている時代。手元にそれを表現できる端末（スマホ）をほぼ殆どの先進国の人が持っている。
いろいろな文脈の組み合わせから、現状が生まれている。
現状は「人ではなくAIに任せる」という概念を生み出しています。しかも、その「任せる範囲」が極端に拡張しています。
別な言い方だと、システムの使い方、認識の仕方が変わっている。
しかも結構問題だと感じているのは殆どの場合「フェイルセーフ」と言う概念がないことです。
デザインの話っぽくなって来ました。フェイルセーフを作れないデザイン、サービス、製品とも言って良い。
僕らが「コントロール」している範囲はどこまでなのか？
アマゾンエコーの「笑い」を何故僕らは止めることができないのか？
電源を抜くしかないのか？
今後自力で充電する製品が出た場合は？
このコントロール問題はデザイナーだけでなく所謂AIエンジニアにとってもそうです。
開発者も通る道
実は、既にこれは発生している。しかも気づいている開発者もいる。けど、ほとんど誰も声に出さない。なので今回僕はあえてこの文章を書いています。
現在発生している問題を一言で言うと「AI」だからと言う認識で「逃げ」があるかもしれないということです。
自分は一体どこまでコントロールしているのか？
単にAIに投げて帰って来たデータをそのまま表示していいのか？
「AIはそういうものだから」と言って良いのか？
というか、逆に何が出来るのか？
たとえば「スマートスピーカー」の声の認識。それは間違っているかどうかに関わらず「認識」したことにレスポンスを返します。その結果、笑います。
開発者は何処でそれをコントロールできるのか？逆にコントロールして正解なのか？特定の認識だけを個別に制御していて、それで開発者はAIをコントロールしていると言えるのか？
AI、AIシステム、AIサービス
AIはアプリケーションレイヤーの開発者だけでなく、アルゴリズムを考えた人でも「コントロール」ではなく「マネージメント」するものと言えます。数式から導き出されるものを「AI」ではなく「AIシステム」と言う抽象化した全体像でマネージメントするということです。
そして、最終的に「AIサービス」となる。
「AI」「AIシステム」「AIサービス」言葉の違いですが、それぞれ文脈が増えていきます。「AIサービス」はユーザや社会との調和が必要です。
実際に僕はAIスケジュール管理アプリ（Onefunc Plan）でAIに自動で予定調整する機能やスケジュールの忙しさなどを計算するアルゴリズムを考えて実装していますが、実際のところ、全てはユーザの端末内で起きることであって、僕はユーザの端末で何が起きているのか分かりません。
一応プログラムは書いた通りに計算します。当たり前ですw
ですが、そのコードが計算して表現したものが何か分からない。あとでデータを丸々いただいて、再現することは可能かもしれない。でも本質的に一つ数値が違うだけで全てが違ったりします。過去の学習内容から違いは出てきます。
完全にアプリ内は「ユーザとAIのみの世界」ということです。
けっこう当たり前なことを書いています。
限界もあるのは知っている
「AIはそういうものだから」と言っちゃいけない。それで成長は止まると思います。
もちろん限界はあります。でも、その開発者としての認識を「ユーザ」に伝えないといけないと思います。
それに、今後数十年単位で見ると「どこまで保証するのか」も明記する時代もくるかもしれません。何故なら「ユーザの認識と開発者の認識のずれ」はいつの時代でも発生する問題だからです。
いわゆる瑕疵担保責任みたいな話です。
一応書いておくと、現状は「基本的な機能を押さえていればOK」です。ですが、iPhoneなどの製品を買う際に「スペック」が表現されます。それと同じようなものが必要になるかもしれないとも思います。
ちょっと話がそれてきそうなので、強制的に元の話に戻ります。
事前の認識と、過去の認識
本質的な問題として「そのシステムはどこまでの範囲で動くのか」という事前の認識の問題もあります。人は事前の確率と事後の確率で一致していると所有感が出る。コントロール感です。錯覚とも言って良い。
その事前と事後の一致が今までは「コントロール」できていた。でもこれからは完璧にはできません。
パソコンはコントロールできる。
AIは（完璧には）コントロールできません。
アートの世界であったグリッチ、ハプニングの様に「今までと道具の概念が変わる」「利用する側の人の認識が変化する」ことは、AIサービスの普及でかなり進んでいくと思います。
現代にあったデザインを
いきなり30年後の人のためにデザインしても失敗すると思います。
「現代の人にあったデザイン」を段階的にしなければいけない。今の人に価値を感じてもらわないと売れません。売れないものに投資しません。無くなっていきます。現実的な話です。
新しい価値を大量に普及させるのはビジネスが最適ですからね。
なんだか書いていて思ったのですが、AIサービスは道具と言うより部下だと思った方がいいかもしれない。部下は（完璧には）コントロールできません。マネージメントするものです。
うまく部下の力を引き出せるかはマネージメント次第とも言えます。
おそらく、日本（に限らず何処でも）ではその「マネージメント」ができない人が多いかもしれませんが、それさえも「デザイン」で解決しましょう？w
以上です。