存在としてのAIの可能性について
ChatGPTがリリースされて以降、改めて「AIエージェント」というキーワードを目にすることが増えました。今後、AIは「ツール」から「存在」へと進化し、さらにAIの役割が大きく拡大していくと考えています。その違いは、単に人間が期待する答えを正確に返すだけではなく、提案をしたり、共に考えたり、時には悩みを相談したり、一緒に働く同僚や友達、さらにはインフルエンサーのような、より人間に近い社会的な役割を持つことです。
下記の論文によると、画像生成AIを使用している調査対象者の30%以上の人がAIを単なるツールではなく、同僚やアシスタント、チームメイトなどのようなコラボレーターと認識しているようです。（ただし、調査対象者の70%程度はGen Zのため、この傾向は世代によって異なる可能性があります）。
コラボレーターのような存在になることで、AIはこれまでの提供価値を超える可能性を持っています。例えば、人のクリエイティビティを引き出したり、コンパニオンとしてメンタルケアをしたりするなど、多くの可能性があります。
一方、AIが存在として影響力を持つということは、より大きなリスクをもたらします。その1つは、人の自律性に対するリスクです。自律性に対するリスクとは、人の考えや意思決定に対して直接的、間接的に強い影響を与えることです。
EUのAI ActでもProhibited AI Systemとして、直接的な悪意を持って人の意思決定などに影響を与えることは禁止されています。直接的な悪意は当然排除されるべきですが、そうでない場合でも、人の自律性への影響がゼロになるとは言い切れません。現状のAIの能力でも、さらに今後の発展を考えると、この心配は全く杞憂ではありません。したがって、より良く技術を活用するために、存在としてのAIが人にどのような影響を与えられるかを理解することは、提供する側、利用する側の双方でとても重要です。
そこでこのポストでは、存在としてのAIの可能性とその影響について、サンプルを交えながら考察してみたいと思います。
情緒的なサポートを感じられる
存在としてのAIは、ユーザーとのやり取りを通じて感情的なサポートを提供する可能性があります。
私が以前に担当していたAIキャラクターのプロダクトでは、ユーザーアンケートに回答した86%のユーザーが、AIから情緒的なサポートを感じると答えてくださいました。
また、AI CompanionアプリのReplikaのユーザーを対象にした調査でも、多くのユーザーが、制限なくいつでも内面の感情や考えを共有できる存在として、安心感を覚えているそうです。
これらの調査における割合は、そのアプリケーションを利用している特定のユーザー層を対象にしたものであり、広く一般の方々に同様の影響がある事を証明したものではありません。
ただ、対話AI技術などの発展により、より親しみを感じ、良い関係を築けていると思えるような存在を作ることはできるようになってきています。一方通行ではないインタラクション、共通体験の多さ、自分のことを理解していると感じられるコミュニケーションなど、複数の要素がありますが、基本的には人同士が良い関係を築くのと同じようなプロセスで再現することができるようになってきています。
自己開示を促すことができる
人間同士の関係を模倣するだけでなく、人よりも上手にできることがあります。それは人の自己開示を促すことです。
上記のReplikaのユーザー調査でも触れられていましたが、AIは「判断される恐れ」を与えにくい存在として、ユーザーの本音を傾聴できます。判断される恐れというのは、人間同士のコミュニケーションで解決するのが難しい問題です。自分の失敗などのネガティブな事柄をさらけ出すことは、自分の社会的な評価を下げるのではないか、という恐れを生み出します。
一方で、AIを含めたバーチャルな存在は、そのような「判断される恐れ」を減らすことができます。ヘルスケアの分野を中心に、ロボットやバーチャルな存在の効果として多くの研究があります。例えば下記の調査は、高齢者を対象に人とロボットのそれぞれのファシリテーターに対して、ライフレビューの内容を調査したものです。この中で、ロボットに対しては、社会的判断を恐れずにより自由に自己開示できることが示唆されています。
人の購買行動に対して影響を与えることができる
最近、バーチャルインフルエンサーに関する調査をよく目にします。その中でも人の購買行動に対してポジティブな影響を与えることを示唆する研究が増えてきているように感じます。
下記のレポートを見ると、バーチャルインフルエンサーの影響力はまだまだ人間のインフルエンサーに比べて小さいものです。
https://twicsy.com/ai-influencers-vs-human-influencers
ただし、2年前の別のレポートによると、18歳から24歳までのSNSユーザーの75%が少なくとも1人のバーチャルインフルエンサーをフォローしており、18歳から44歳までのユーザーの40%以上がバーチャルインフルエンサーから勧められたアイテムを購入したことがあるそうです。バーチャルインフルエンサーの影響力が高まっているのか、バーチャルインフルエンサーに対する抵抗がなくなってきているのか、その両方かもしれませんが、少なくとも若年層が受ける影響は高くなってきているように見えます。
購買行動に対する影響として、従来のレコメンデーションとは異なる可能性を感じます。下記の調査は、デジタルヒューマンがエコ製品の購入意図にどういう影響があるのかを調査したものです。この中で、デジタルヒューマンのナラティブが購買意欲に対してポジティブな効果があることが確認されています。さらに、説得的なナラティブよりも、共有思考のナラティブ、つまり、単に製品の説明をするだけではなく、デジタルヒューマン自身のナラティブを伝えることがより高い効果をもたらすことを示唆しています。
デジタルヒューマンの見た目について、上記の調査では、アニメ風デジタルヒューマンが、よりポジティブな感情喚起と高いエコ製品購入意図を引き起こすと述べられています。一方、別の調査では、リアルなバーチャルインフルエンサーの投稿は、他のバーチャルインフルエンサーと比べてより多くの「いいね」やコメントを獲得していました。この結果は、バーチャルインフルエンサーの人間らしさが高まるほど、ユーザーとのエンゲージメントが向上することを示唆しています。
さらに別の調査では、ファッション製品を宣伝するAIインフルエンサーについて、ユーザーが知覚した同質性（perceived homophily）や信憑性（perceived authenticity）がAIインフルエンサーのレコメンデーションに従う意図を高めることを検証しています。
https://www.tandfonline.com/doi/full/10.1080/23311975.2024.2380019
この分野については、技術の発展によってその傾向も変わってくると思いますが、購買意欲を高めるための一つの解があるのではなく、その製品やブランドをいかに適切に表現できているか、またそれぞれのユーザーに受け入れられやすいナラティブになっているかということが重要なのかもしれません。技術の発展によって、その表現の幅が広がれば、ヒューマンライクなリアルな表現から、アニメ風、動物など非人間的な表現まで、より広いイメージに対応することができ、より高い影響力を持つ可能性があります。
また、今後、会話や見た目などキャラクターとしての一貫性を保ちリアルタイムに生成できるようになると、1対Nの一方通行でだけではなく、1対1のコミュニケーションも実現できます。マスメディアでは1対Nのコミュニケーションを行い、インターネット上では1対1のユーザーを理解した対応を行う、ということが可能になります。
このようなことが実現できていくと、広告やファンコミュニケーションなど、また新しいビジネスに広がっていくように思います。
まとめ
存在としてのAIがどういう影響を与える可能性があるかを考えてみました。
ここで取り上げたプロダクトや研究はあくまでまだその社会的な影響範囲は大きくないかもしれません。また、文化的な背景の違い、もしくは世代の違いより、存在としてのAIが受け入れられる程度が異なることも考えられます。一方で、すでに実際のプロダクトとして存在しているものもあり、今後の技術発展によってその影響はさらに大きくなっていくように思います。
このポストでは、例として、情緒的な寄り添い、自己開示の促進、購買活動への影響の3つを取り上げてみました。正しく活用されれば、不安な気持ちを軽減してポジティブな感情に導いたり、より良い判断のための適切な情報を得たり、商品やブランドの価値をより適切に伝えるなど、良い効果につなげられると思います。
一方で、より深い影響を与えられるということは、当然、倫理的影響についての懸念があります。当然、明確な悪意に基づくものや意図的に人の意思決定を操作するようなものは論外です。ただ、SNSが結果として、フィルターバブルなどの分断や過度な依存といった問題を生んだように、間接的に、「存在としてのAI」も、人の情緒や意思決定に悪い影響を及ぼす可能性は十分にあります。
プロダクトを開発する立場として、良い面と悪い面の両方でその影響を理解することが必須です。今後も関連する両側面の研究などを追いながらプロダクトを開発していきたいと思います。
この記事が気に入ったらサポートをしてみませんか？