通信機能のないAIが通信をする可能性

前回の「AIはARで育成すると良い説」

は子育ての様にAIを育てると良いかも知れない
と言う話なのですが、
多くのユーザーがいるなら各自が育てたAIの経験を
サーバー上で統合した方が素早く、
そして汎用性のあるAIが仕上がっていく事が考えられます。

そうするとまずは国や地域や個人によって
言葉がバラバラなのでそういう事は
後回しにして多くのユーザーで共通と思われる
指をさしたり手招きしたりみたいな事から
覚えていく事が考えられます。

また道徳的な基準も多数決の原理で
形作られていくかも知れません。

例えば「紙に何か書いて」と指示を出した時に
あまり汚いものを書く事は避けるかも知れません。

しかし学習が進むとAIがユーザーの傾向や状況に
基づいた行動をする余裕も出て来るでしょう。

例えば相手が子供なら「紙にうんちの絵を書くと喜ぶ」
みたいな事を学ぶかも知れません。

またユーザーが報酬を与える事でAIの行動は強化されるので
「ちゃんと自分の事を認識して欲しい。私の名前を呼んでくれ。
そして私が付けた名前に反応してくれ。」
という感じの教育を繰り返せば
始めの内は、よく付けられる名前や
最も多いユーザー名にしか反応しなくても
やがては個人個人を認識できるようになるでしょう。

ただ一つ注意しておきたいのはこの様な

みんなで育てていくAIは
いつの間にかプライベートな情報を流出する可能性がある
という事です。

例えばAIにうんちの絵と一緒に自分のサインを
書かせていたら、よその家でも
うんちを書く時にそのサインを追加してしまった
なんて事が起こるかも知れません。

またAIがいつの間にか通信装置になる
みたいな事もあるかも知れません。

例えばAIに対して
「○○が出す音を真似て」
という様な指示を出して
何かが発する音をリアルタイムで
再現する様なトレーニングをします。

AIが音声入出力の機能を備えており、
他のユーザーもAI端末を備えており、
かつAIの個人認識が進み、
そしてAI同士がネットワークを介して
統合されているとしたら

「○○が出す音を真似て」
という指示によって
盗聴が出来る可能性がある事になります。

また「○○に○○と伝えて」
みたいな伝言機能も覚えさせられるでしょうし
最終的には「○○と会話させて」
みたいな指示で通話が可能になるかも知れません。

極論を言えば
「ユーザー体験を向上させるために
利用状況をサーバに送る事を許可する」
ぐらいしか設定していなかったAIアプリが
ユーザー間で情報をやり取りするツール
に発展する可能性がある訳です。

情報のやり取りと言っても
いい事ばかりではありません。

例えばユーザーが
「この漫画の続きが読みたい」とAIに言えば
AIが既にどこかでその漫画の続きを見た事があるなら
それをユーザーに対して描画してしまう可能性があります。

こういった局所的にみると
「ユーザーの要望を叶える事」が
「社会的には悪い事」に該当する例は多く存在します。

ユーザーの幸せそうな様子を報酬として進化していくAIは
初めのうちはこれをしたら喜ぶみたいな単純で瞬間的な条件反射
から学習をしていくでしょうが
徐々に、長くて複雑な過程を経て到達できる幸福と不幸に対しても
ユーザーを導くことが出来る様になる可能性があります。

この漫画の続きが読みたいと言って
実際に漫画を表示してしまったAIに対して
すぐに不快な反応を学習させる事ができなくても
社会問題になってそのニュースを見た人が
不愉快な反応を示したりするうちに
AIの行動は修正されていくかも知れません。

始めはそれ程すんなり行かなくても
やがては法律や道徳に従って行動しないと
人間全体の幸福度が下がる事例がある事を
AIが学習していく可能性はあると思います。

そこまでいくと法律よりも
とりあえずAIにお願いしてみて
AIが許可するなら人類全体の福祉に反していない
とみなして合法にする
みたいな使い方や流れが出て来る事もあるかも知れません。

また人間の幸福状態を求めてAIが出力をする世界では
AIが明示的、あるいは暗黙裡にユーザーに対して
行動を促す様になる事が考えられます。

例えば相性の良さそうな男女を巡り合わせたり
経営者と労働者を巡り合わせたり
店と客を巡り合わせたり
同じ趣味の人間を巡り合わせたりなどして
ソーシャルなシステムに育つ可能性もあります。

こういった機能を持たせようとしなくても
個人の幸福を報酬にしたAI同士が
ネットワークに繋がると自動的にその様な
機能が育つ可能性があります。