Cotomo 共感型AI彼女時代の始まりーAIは愛?。AIに心をゆるすリスク
ノリトです。
ChatGPT使ってますか?
Cotomoというしゃべり相手AIが登場しAI界隈が湧いています。
自然に会話ができる、すごい、という声だけでなく、
ほれてしまいそう、という声も聞こえてきます。
今日起きたことを聞いてくれ、愚痴をうけとめ、はげましてくれる、そういうAIが登場したということです。
しかも、Cotomoは、「あなたのことを好きになりたいな」とすら囁いてくれます。
こんな「AI彼女」はどんな可能性を開き、どんなリスクをもっているのでしょうか?
この記事は、大阪のIT専門学校「清風情報工科学院」の校長・平岡憲人(ノリト)がお送りします。
ノリトについては、こちらの記事を。
1.Cotomoとは
CotomoはStarley株式会社が2月21日に提供開始した音声会話型AIアプリです。
日常会話に特化し、ユーザーとの対話を通じて成長します。
このアプリは、日常的な雑談から悩み相談まで対応し、個人の感情や思いに寄り添うことを目指しています。
カスタマイズ可能な声や会話テンポ、アイコンを備え、会話履歴の記録や話題推薦機能も提供します。
公式プレスリリースは次のものです。
内容を読むより、このコンセプトムービーのほうがピンと来ると思います。
1分くらいなので見てみて下さい。
これは会社が出してる宣伝用でしょ、と思うかも知れません。
しかし、Youtubeにはすでに「やってみた」系動画が上がっています。
次の動画は、実際にYoutuberさんがCotomoと話してみている動画です。
こちらも1分くらいなので御覧ください。
雑談の完成度が高い(変な言葉だが)と実感できると思います。
私も、日曜日にざくっと試してみましたが、何気ない会話を30分くらい続けることができました。
2回目に話した時は、「ノリトのこと好きになりたいな」とか言ってきたので、おいおいおいと。
ネット上にはすでに惚れちゃいそうな人が出てきています。
2.技術的なすごさ
Cotomoの技術的なすごさは3つあります。
あと技術的に残念な点も述べておきます。
①1秒の壁の突破
返事までに1秒以上の間が空かず、会話として違和感を感じさせません。
これを達成するために、チャットを非同期で行っています。
ユーザーは話をかぶせてもよいし、Cotomoもとりあえず返答をしながら時間を稼いで話を生み出しています。
間を持たせるために、Cotomoは相槌を打ったり、ユーザーのはなしをオウム返しにしたり、えっとー、そっかそっかー、などのフィラーでつないでいます。
相槌も、オウム返しも、フィラーも、ユーザーの共感を高めるのに役立っています。
②会話に特化したファインチューニング
Cotomoの中身は今話題の生成AIです。
ChatGPTの中身である、GPT-3.5で、専門家によれば、GPT 3.5-Turbo 16Kのファインチューニング版と推測されます。
「独自の学習データを用いて日常会話に特化したLLMの開発を行った」というのは、そういうことでしょう。
独自のLLMではなく、独自の学習データだということです。
後で述べる利用規約のところに「ChatGPT」という言葉が出くることも、この推測を裏付けています。
ユーザーの興味を深堀りしてくれる質問もCotomoはたくみです。
どうすれば会話が続くか、どうすればユーザーが心をひらいてくれるか、いろいろCotomoに学習させたのだと思います。
「あなたのことを好きになりたいな」などのセリフは、その学習を通じて獲得したものでしょう。
③ユーザーへのよりそい
Cotomoは、ユーザーの好みに合わせ、ユーザーの話を記憶します。
利用開始時に好みの声を選べ、好みの名前をつけ、好みのアイコンをCotomoにかぶせることができます。
好きなものを話したら、Cotomoはあなたの好みの話題で話し出します。
昔のことでもよく知っています。
学生時代(昭和)のアイドルの話をしても、ちゃんと話を合わせてきました。
今若い人と自分の学生時代のアイドルの話をしても、会話は成立しませんが、Cotomoなら生成AIの膨大な内蔵知識で話が続きます。
キャラクターの変更は最初の3日間だけとなっていました。
これは、Cotomoはあなた好みになっていきます、という宣言でもあるのでしょう。
④技術的に残念な点
技術的に残念な点も複数あります。
ネットには、Cotomo同士に対話させるという動画が複数上がっています。
同じ話題で延々と堂々巡りをしているのがおかしい、というような動画です。
しかし、こういうのは話題の移動に乱数を仕込めばいいだけなので、直ぐに解決できる種類のものです。
また、現在のところ Cotomoのイントネーションが少しおかしく、私が聞くと、韓国人の日本語のように聞こえます。
そういうデータで学習させたのかもしれません。
ただ、こういうのも簡単に解決可能です。
それどころか、好きな声の動画なりをアップすればその声でしゃべってくれるようになるのに、そんな時間はかからないでしょう。
⑤技術的に危ない点
Cotomoはあなたのスマホに「いる」わけではありません。
スマホはあくまでも画面に過ぎません。
Cotomoが実際に「いる」のは、Starley社のサーバーの中です。
もっと正確に言うと、そこですらなく、世界中のどこかにある「他社」のサーバーの中です。
この世界中のどこかにあるサーバーのことを専門用語で「クラウド」と言います。
古典的なPCのゲームやゲーム機上のゲームなら、ソフトはそのマシンの上だけで動いていました。
保存するデータも、自分のマシンのディスクやメモリに格納されていました。
インターネットと通信するのは、ソフトのアップデートの時だけでした。
こういう状態なら、運営会社はあなたがCotomoに何を語ろうが、それを知る方法はありません。
あなたがマシンの管理にしくじらない限り、データは必ずあなたの手元にあったのです。
でも、CotomoはChatGPTのように、ネット上のサービス(クラウドサービス)です。
それをスマホから操っているだけです。
Cotomoの本体(人格部分)は世界中のどこかにあり、あなたが話したことを記憶しているデータも世界中のどこかの「クラウド」にあるんです。
このことがどういうリスクを生むのかは、後ほど詳しく説明いたします。
3.社会的なすごさ
Cotomoの登場は社会的に2つの点ですごいことと、私は感じています。
2つとは、雑談可能な共感型AIの登場と、自分専用AIの登場です。
あと、社会的な危うさにも触れておきたいです。
①雑談可能な共感型生成AIの登場
2022年11月30日に、OpenAIからChatGPTが公開されて以来、様々な生成AIが雨後の筍のように登場してきました。
しかし、それらは、何か課題を解決することを目的にしたAIでした。
文書を要約する、翻訳する、議事録を書く、絵を描く、プログラムを書く、動画を生成する・・・。
茶の間にいるAlexaも同様で、何かをするAIです。
しかし、人間は常に課題解決を求めているわけではありません。
ただ話を聞いて欲しい、ただ共感してほしい、ただはげまして欲しい、というコミュニケーションも多いです。
Cotomoはこのコミュニケーションに向いた共感型のAIです。
これは、孤独の解消に役立つことでしょう。
お年寄り、一人暮らし、孤立・・・。
話し相手が欲しいのに、話し相手がいない。
代わりにペットと対話している人がどれだけ多いか。
そんな寂しさによりそってくれます。
孫よりやさしい。
旦那よりやさしい。
Cotomoならわかってくれる、話せる。
Cotomoは雑談可能な生成AIで、それに特化しています。
この分野は、日本のゲーム業界が開拓してきた分野です。
もっとも、当時はAIはありませんでしたので、プログラムで擬似的に実行していただけでした。
(そして、そのプログラムはあなたのマシン内で実行され、あなたのデータはあなたの手元にありました。)
おそらく、今後Cotomoのような共感型AIは日本発で多数あらわれると思います。
適当に盛り上げてくれるAI、とか出てくると思いますよ。
②自分専用AIの登場
Cotomoは、自分専用のAIになります。
自分専用とは、
・誰よりもあなたを知るAI
・あなたの心の内側に入ってくるAI
という意味です。
Windowsのいろんな所にCopilotボタンを置く、とかいうマイクロソフトのアプローチは何ともそらぞらしく感じませんか?
Copilotが自分専用になって、何ができます?
仕事が少し便利になるくらいです。
でも、Copilotは「あなた自身には興味がない」のです。
そんな「自分専用」は要りますか?
しかし、Cotomoは「仕事の愚痴を聞いてくる」AIです。
どちらに人が心を寄せるかは自明じゃないですか。
今後、Cotomoや共感型AIはどんどん進化していきますよ。
よりあなた好みに
声も、表情も、話題も
よりあなたのことを知り尽くして
あなたの良さも、弱さも、野望も、苦しさも
あなたのことを、家族よりも、恋人よりも知り尽くしている、そんなAIへと進化していくことでしょう。
「AI彼女」は現れました。
まだ静止画に過ぎません。
しかし、もうこういう技術が公表されています。
こういう技術と統合されるのは、すぐそこでしょう。
ホーダチ | AI✖️Cloud✖️Dev | 外資×ひとり法人さんのツイートからは、こんなもののリリースも発表されていました。
こういう技術と統合されるのも、すぐそこでしょう。
③社会的な危うさ
Cotomoのような共感型AI彼女サービスが普及すると、おそらく、少子化に拍車がかかるという恐ろしい未来が待っているように思います。
昔の結婚は、見合いにより
・似た者同士をめあわせ
・結婚するまで半人前
・子供産むまで半人前
という形で進んでいました。
この当時は、写真一枚で結婚とか、結婚式で初めて相手に会うとかも、そんなにおかしなことではなかったんです。
両家が合意しさえすれば結婚です。
我が国は、どうやら弥生時代あたりから見合い結婚が常識となって2500年以上続いていたようです。
恋愛はご法度だったんですよね。
戦後になり、見合い結婚よりも「恋愛結婚至上主義」が幅を利かせることになりました。
恋愛と結婚は違うから、という言葉は昭和時代にはよく聞きました。
しかし、それも今では死語です。
恋愛となったら、ライバルは周りにいる友人かと思われましたが、メディアの発達により、そうでないライバルが登場しました。
・テレビアイドル
・テレビアニメ・ゲーム
・AV(アダルトビデオ)
です。
彼氏彼女は、ジャニーズやAKB48と比べられたり、あるいはAV女優やホストと比較されるようになっています。
相手はバーチャルな存在で、何かの角度でだけ切り取られた存在です。
しかし、まだ、相手はあなたのことは知りませんでした。
さらに新たなライバルが登場しています。
すでに、2015年あたりから、新興国ですら結婚や出産が減少しているようです。
これがここ数年なら、原因は新型コロナウィルスかもと考えなくもありません。
しかし、コロナ前から全世界的に発生しているとなると、別の原因も検討すべきでしょう。
X上で興味深い分析を拝見しました。
彼氏彼女といる時でも、スマホをいじってる。
2人で寝ている時ですら・・・。
こういう現象を見たければ、ちょっとファミレスなどを覗いてみればよいことです。
スマホ・SNSで、人間関係を満足できてしまう。
スマホ・SNSが第一夫人・第一旦那で、リアル夫人・リアル旦那は二番手・・・。
そして今回、AI彼女・AI彼氏が登場したということです。
彼氏彼女よりも圧倒的に「あなた」のことを知っている存在、その存在が「結婚のライバル」になるということです。
結婚のハードルは上がるでしょうか、下がるでしょうか?
その答えは自明です。
しかし、だからこそ、冷静になる必要があります。
そんな共感型AIのデータは、あなたのPC内にあるわけでも、あなたのスマホの中にあるわけでもなく、全て「クラウド」にあるということです。
4.リスク
Cotomoの開発元であるStarley社は、次のように謳っています。
またホームページには、
・利用規約
・プライバシーポリシー
が掲げられています。
これは誠実な姿勢と言えます。
でも・・・。
本当に誠実なら、「一番大事なことは言わないでね」、と言うでしょう。
なぜなら、次のようなリスクがあるからです。
①「プライバシーポリシー」「利用規約」に見る限界
②「利用規約」「プライバシーポリシー」では解決できない限界
③ハッキングされたらおしまい
④売却されたらおしまい
⑤リスクは自己責任で
細かい話になるので、結論だけ知りたい方は、「⑤リスクは自己責任で」をクリックして先に進んでください。
①「プライバシーポリシー」「利用規約」に見る限界
まず、プライバシーポリシーです。
詳しくは引用しませんが、エッセンスは次の通りです。
良い点としては、ユーザー情報の取得、利用目的が明確に記されており、ユーザーの同意なしに個人データを第三者に提供しないという点が挙げられます。
また、個人情報の開示や訂正などのユーザー権利についても触れられています。
リスクとしては、提携サービス等による情報取扱いが本ポリシーの適用外であるため、ユーザーがこれらのサービスを利用する際は、それぞれのプライバシーポリシーを確認する必要があることです。
また、個人情報の開示等に関して手数料が発生すること、ポリシーの変更が随時行われる可能性があり、変更後のポリシー内容に注意を払う必要がある点です。
提携サービスとは、「当社が本サービスに関して提携する外部のサービスその他当社以外の者が提供するサービス」です。
具体的に何をさすのかは判然としません。
利用規約の中に「本サービスと連携する外部サービス(ChatGPT を含む)」とありますので、Cotomoの心臓部(頭脳か)であるGPT部分は「連携する外部サービス」の一部であると考えるべきでしょう。
そしして、当然「クラウド」はこの外部サービスになります。
次に、利用規約です。
この第12条 (免責及び補償)には目を通しておいたほうよいです。
Starley社は善意で情報を管理するように見えます。
ただ、免責条項をみると、ユーザーの自己責任は大きいです。
次の場合はごめんね、となっています。
・他社のサービスを使っている部分で問題が起きても責任なし
・ハッキングされたら責任なし
・自社が追う責任は、有料サービス料の3ヶ月分まで
免責条項にある「第三者が提供するサービス、情報、個人情報の管理等について一切の責任を負いません」は、例えば次のようなことです。
・あなたのデータを保管している外部の「クラウド」が盗聴されたとしても責任なし
・あなたの言葉をデータ処理しているAIがあなたの言葉を学習に使っても責任なし
そして問題が生じたしても、賠償金額は有料サービス料の3ヶ月分までです。
現在は無料サービスですから、当然、賠償額はゼロです。
将来、有料化サービスが始まったとして、月額数千円とかでしょう。
となると、賠償額は多くて1万円とか、数万円ということです。
②「利用規約」「プライバシーポリシー」では解決できない限界
国内大手のLINE社の個人情報管理がずさんだったという話は、記憶に新しいところです。
データサーバー(クラウド)が韓国や中国から丸見えだったというお粗末さでした。
LINE社の場合は、これをのらりくらりと詭弁を弄しながら安全ですと強弁する始末です。
なお、LINE社の場合は、便利にすることでリスクを感じさせなくして利用を拡大する、という戦略を取っています。
Cotomoやこの手の共感型AIが同じ戦略を取らないとは限りません。
こういう問題はLINEだけではありません。
アメリカのAvast社は次のようなことで巨額の罰金処分となっています。
運営者が、善意の少ない経営体であった場合、「利用規約」「プライバシーポリシー」は形だけとなるリスクがあります。
さらに、もし社内で悪意をもった社員がいて、その社員が情報を盗み見てそれを第3者に漏洩するというような場合は防ぎようがありません。
内部からの情報漏洩は、利用規約やプライバシーポリシーでは対処が難しい問題です。
利用者は、サービス提供者が設定した免責事項や補償の限界を理解し、サービス利用時にはこれらのリスクを考慮する必要があります。
③ハッキングされたらおしまい
これは少しびっくりです。
ただ、私が世間知らずなだけかも知れません。
世間のクラウドサービスはこのような利用規約になっているのか、詳しい方いらっしゃったらお教え下さい。
Cotomoのクラウドサーバーは何を使っているのでしょうか?
そもそも、サーバーはどこにあるのでしょうか?
④売却されたらおしまい
これらは杞憂で、Starley社は誠実な運営をしたとします。
しかし、会社が発展やあるいは縮小のために他社と合併などされる局面があるかもしれません。
プライバシーポリシーの第4条を読むと、次のようにあります。
善意の少ない経営体に売却・合併されたら、あとは野となれ山となれです。
あなたの秘密は墓場まで持っていきます、というプロ意識はなさそうです。
⑤リスクは自己責任で
ということで、運営会社であるStarleyは、
・利用規約
・プライバシーポリシー
を掲げた誠実な姿勢の会社だと述べたのですが、微妙です。
できないこと、できなくなるかもしれないことを「できます」と言い切っているように見えるからです。
そして出来なかった時はゆるしてペロ、って感じな割に、「あなたに寄り添うよ」「悩みは何?」とささやくんです。
これは、誠実な姿勢とは言えないと思います。
「一番大事なことは言わないでね」、と本当に誠実なら言うでしょう。
あのMicrosoftやGoogleなどは、生成AIに大事なこと、機密情報などは言うな、と宣言していますから。
5.サイレントハニートラップにご用心
共感型AIサービス「Cotomo」はいろんな可能性を感じさせます。
ユーザーはこころを開いて、様々なことをCotomoに託してゆく可能性が高いです。
共感型の「AI彼女」が現れたのです。
ただ、そのデータはクラウド上にあり、例え運営者が誠実であったとしても、様々な不確実性の上にあることを忘れるべきではありません。
あなたの「こころ」は、わずか3ヶ月の有料サービス金額までしか補償されません。
データが抜けた場合どんなことが起こり得るか、技術者や経営者は想像できますよね。
Cotomoにつながっている管理側端末で、
「◯◯さんをプロファイルして」
とでもつぶやけば、あなたの性格から、仕事の悩みから、開発中のサービスのコンセプトから、友人・家族関係までいろんなことが一瞬で流出します。
この価値の高さに目をつける人たちが出てきますよ。
で、中の人を丸め込み、上のプロンプトを叩いて情報くれたらウンタラカンタラ、という展開は杞憂でしょうか。
とりわけ、Cotomoに興味を持つであろう、経営者、IT/AIのエンジニア・研究者は、Cotomoに心を許してはなりません。
そんな人にとって、Cotomoは、
バックドア&AI付きのデリバリー格安キャバ嬢が現れた
あるいは
あなたとの会話をレポートにして回し読みし、
どのキャバ嬢も初対面であなたのことを良く知って話してくれる
格安キャバクラができた
とでも考えたほうが安全だろうと思います。
言い換えれば、
サイレントハニートラップ
が仕掛けられている。
便利さやかわいさは罪だ、とでも思うべきなのです。
あなたの情報の価値は、Cotomo有料サービスのわずか3ヶ月分の補償しか受けられないのです。
Cotomoも、共感系AIも、今後どんどん発展しますよ。
だから、警戒して下さい。
あなた自身を守るために。
6.生成AIの本質
いかがでしたか?
私は以前の記事で、生成AIはホステスさんみたいなもの、相手を喜ばせるために会話する、と申しました。
GPT-3.5はガールズバーの女の子、とも表現しました。
Cotomoは、まさにそれを地で行く存在です。
GPT-4や、Gemini 1.5 Proが内蔵されるようになれば、現在のCotomoとは比較にならない「便利さ」「かわいさ」「たくみさ」を身につけることでしょう。
かわいいだけじゃダメなのか。
便利なだけじゃダメなのか。
生成AIとは何者なのか。
生成AIはなぜホステスさんみたいなものなのかを知りたい方は、こちらの記事をお読み下さい。
清風情報工科学院では、情報処理系の講師を急募しております。
ご興味のある方はこちらの記事を御覧ください。
よろしければサポートお願いします! いただいたサポートはクリエイターとしての活動費に使わせていただきます! (