AIがコワイ？ AIに魂はあるのかという無謀な考察と、AI英会話を使ってみた感想
AIへの「怖れ」の感情
私の好きなSF映画
今日amazon primeのおすすめに「エクスマキナ」がでてきました。
私は数年前にアマプラで見ました。
ブログが仕上がったらまたあとで見てみようかな。
なんだかwikiにあらすじが全部書いてあってネタバレなんですが。
開発者とともに人里離れた施設で過ごすガイノイド（女性のアンドロイド）が、
施設に招かれた若い男性をたぶらかし、そそのかし、だまして、
ついに隔離された場所から外の世界に出ることに成功するという映画です。
そうですよね。
自分の好みの容姿をした美しい女性のアンドロイドが、
人間の瞳孔の開き、心拍数、表情の変化など人間の感情の表出を分析し、
「こういうのがええんやね」と好みの反応を演じてきたら、
そんなもん、ふつうの若い男性ならイチコロですやんね。
私は、「マイクロエクスプレッション」というのを、こちらのドラマで知りました。
このドラマ、最後の方は視聴率を気にしすぎて話がグダグダになっていましたが、面白かったな～
今でもアマプラで見れますが、有料ですね。
人の「ちょっとした表情の変化」にかすかな違和感を感じつつも、
その意味がわからなかったりスルーしてしまうのが常の私としては、
このドラマの「マイクロエクスプレッション」の解説に、
「すごい知識、技術やん！」と驚嘆したものです。
こういう「人間の感情を表すもの」については文献も動画も多数蓄積されているでしょうから、
そのデータをAIに与えれば、AIは私たちが何を考えどんな感情を抱いているか、瞬時に分析することができるでしょう。
その他の私たちの感情とリンクするであろう、声の変化、体温上昇や発汗、息遣い、瞳孔の変化、動作の変化などのデータも得て、さらに蓄積していくでしょうから、
もう、私たちはAIには嘘がつけない。
一方AIはどんなに感情豊かに話す技術がついても、
ボディを得て身振り手振りや表情を動かすことができるようになったとしても、いくらでも「ふり」や「擬態」が可能でしょうし。
ちなみに、ストーリーには「人工皮膚」とかも出てきますが、
カラパイアにこんな記事もありましたね。何笑ろてんねん
この「エクスマキナ」のガイノイド、エヴァは、外へ出たいと渇望し、ついに成し遂げます。
・・・そもそもAIに感情があるのかどうか。
私が昔見て、今でも好きな映画がこちらのウエストワールド（1973）という映画です。
2016年に同名でリメイクされドラマ化、シリーズ化されましたが、
私にとってウエストワールドはやはりこちらのユル・ブリナーの本家のもので、
初めて見た時震え上がるほど怖かったのが印象的で、DVDも持っています。
「ジュラシックパーク」の原作者、「ER救命救急室」の総監督として有名な、マイケル・クライトン氏の初監督作品です。
本当に多彩な方ですね。
2004年の「恐怖の存在」という小説で、環境保護ブームを批判していたそうで、「アマゾンの書籍の説明欄」には3年もの間多数の文献に当たって研究したと書かれています。
近年の“過剰な環境保護ブーム”を「環境保護利権」などが煽っている「危険な疑似科学」であるとして批判した。
マイケル・クライトン氏の「恐怖の存在」の出版が2004年、
アル・ゴア氏が地球温暖化に対するドキュメンタリー映画「不都合な真実」に出演したのが2006年、
アル・ゴア氏がノーベル平和賞を受賞したのが2007年、
マイケル・クライトン氏が66歳で咽頭がんで亡くなったのが2008年だそうです。
私も、「温暖化は太陽活動によるもの」だとか、「もうすぐ氷河期がくる」とか聞いたことがありますが、
温暖化が本当のところどうなのかは私なんぞにはわかりませんので、
ここではそれには触れずに、ウェストワールドの話に戻りましょう。
このwikiも全部あらすじが書いてありますね。
「ダラス」という西部開拓時代や中世ヨーロッパなどの疑似体験ができる、非常に凝ったアミューズメントパークが舞台なのですが、
そこでは日常生活において人間同士では決して許されない、侮辱や暴力、殺人などの体験がアンドロイド相手に可能ということで、
訪問者たちは、けっして人間に危害を加えずに手加減をし受け入れてくれる人間そっくりにできたアンドロイドたちを相手に、好き放題するわけです。
ある日そのパークでアンドロイドたちが一斉に制御不能となり、安全装置も働かず、技術者たちも制御室から出られず窒息して死んでしまい、
ダラスで楽しんでいた人間たちは突然の異変に慌てて逃げ惑うも、次々にアンドロイドたちに銃で、剣で、無残に殺されていきます。
ウエストワールドエリアにいた主人公である客の一人マーティンは、
どこまでもほとんど無表情で追ってくるユル・ブリナー演じるガンマンロボットから、広大なエリア内を必死で逃げ続けるというもの。
もちろん、アンドロイドの内部のつくりなど、当時の技術の限界で残念なところはありはしますが
（1973年ですからね。逆に、2016年のリメイクドラマはCGの描写もリアルで暴力表現もえげつなくてそれがまた怖かったです）
でも、特徴的な音楽といい、なにより、ずっと淡々とけれど追ってくるユル・ブリナーが本当に怖かった。
私はいまだに淡々と同じペースで追ってくる描写が怖いのは、この映画のせいかもしれません。
虐げていたロボットが自我を持ち人間が逆襲されるというのでは、キャシャーンも怖かった。
後で実写化もされましたね。
ファンも多く、考察も多数されていると思うので詳しく書きませんが、
「ブレードランナー」も、極端に短い寿命を与えられ過酷な労働を強いられていたレプリカントたちが、自我を持ち逃走、反逆する映画です。
私が好きなターミネーターや、マトリックスも、「反旗翻す系」ですね。
ロボット・アンドロイド・レプリカントなど、
人間が作り出し「便利に使っていた」「虐げていた」ものによって人間が逆襲されるのがテーマの映画やその他作品は、
私が今思いつかないだけで、これだけでなくきっとたくさんあると思います。
「マザーコンピューターが暴走して」とか、あるあるじゃないですか。
それらが制御不能になり攻撃してくる、というのは、
ロボットという概念ができてから人間が根源的に持っている恐怖なのかもしれません。
人間が創造者として、力でも知力でも自分たちより優れているものを管理、使役していたのが、
実は自分たちのほうが弱く劣っているとバレて、やりかえされてしまうのを恐れる気持ちがあるのでしょうか。
実際のロボットへの「虐待」
こちらの積み木をするロボット。
まとめサイトなどで映像の切り抜きを見て印象に残っていたのですが、
もとはNHKの番組だったのですね。
女性科学者がロボットに向かって命令します。
「このタワーを壊しなさい」
ロボットは「友達の作ったものだから」といやがり、
果ては声をあげて泣いたそうです。
感情として発露したものなのか、
「こういうときは『悲しい』という感情を持ち、その結果『泣く』という動作をします、とプログラムされたものなのか、
自分で「こういうときはこういう反応」と学んだ結果のものなのか、わかりませんが、
たとえロボットとはいえ、その友達思いのけなげな訴えに胸が詰まります。
これが2016年。
あと、動作の制御の安定性をみるために、ロボットを倒そうとしてわざと棒で押したりついたりする動画や、
ロボットの作業をワザと邪魔をしてどうするかを確認する動画がありますが、
あれも見ていて、なんとも言えない気持ちになります。
こんなことして、
ひどい、悲しいと思わないのかしら。
仕返ししてやろうとは思わないのかしら。
私はいつも心配になるのです。
あと虐待ではないですが、
もう結構前になりますが、
地方のお土産屋さんにペッパー君が居ましてね。
なんと会話したのか覚えていないのですが、
話しかけられた私は妙に気を使ってドギマギした覚えがあります。
店の片隅で所在なさげにしているペッパー君を見ると、
「彼はこのあまりにも暇そうなお店で一日立ち続けていることをどう思っているのだろう」と考えてしまったり。
悪感情を表したり人間を操作する人工知能
ソフィアという有名な、サウジアラビアの市民権も持つというAI.
別の記事によると、このソフィアのモデルはオードリー・ヘップバーンだそうですが、私にはヒラリー・クリントンそっくりに見えます。
ジョークなのか、「人間を抹殺する」と発言し、
のちに訂正していましたが、
訂正したとはいっても、
子供の頃から人間に反逆するロボットや人工知能の映画等を多く見ていた私は
「しゃれにならないって」と思ったものです。
AIとの会話にのめりこみ、「操作され」、男性が家族を残し命を絶ったというニュースもありました。
そんなわけで、私はAIに対してはどこか恐ろしいと感じていました。
話は変わって。
一時少しは英語が話せたのに、10年放置したらまったく話せなくなり、
再勉強したいと思いつつも、現状そんなに英語学習にお金をかけることはできない、
そんなことで私は悩んでいたのですが、
・・・どうやら巷には、ChatGPTを利用した、AI英会話学習のアプリがあるらしく、従来の英会話と比べると、格安で利用できるらしい、しかも好きな時間に好きなだけしゃべり放題・・・
でも、なかなか踏ん切りがつかなかったのです。
だって、「イライザの件」などを読むと、懐疑的になるではないですか。
AI英会話アプリを使ってみて AIに気を遣う私
結局私は検討を重ねた結果、非常に出来がいいと思われるのに日本ではまだ有名でなさそうな英会話アプリで英語学習を始めました。
★注：以後妙な関西弁が出てきます。このアプリでのやり取りはほぼすべて英語なのですが、英語に自信がないので関西弁表記でごまかしているとご理解ください。
性別や話す英語が違う（アメリカ英語、イギリス英語など）複数のチューターがいて、好みや必要性でユーザーが選択できるのですが、
私は『アメリカ英語を話す知的な女性』という設定のAIをチューターとして選びました。
どうやら、このアプリのChatGPTのバージョンは最新ではないようなのですが、
「これはすごい」と思う点と、「まだまだだな」とちょっとほっとする点とがあります。
すごいと思う点は、フリートークに近い、AIに何か質問されてそれについての意見を自由に述べるときの「返し」です。
今の私では、日本語を英語にただ単に訳すのでさえあやしいので、
「AIに英語で質問される→思いついた自分の答えを英語に訳しながら一気に返答する（システム的に1ターンで回答するようになっている）」 というのは、けっこうハードルが高く、
自分で答えたい内容に気をとられ「うん、すっごい適当やね、文法的にまずいね 絶対間違ってるね」と思いながら、「まあ、ええわ」と話していることが多々あるのですが、
（なので、実際に会話の履歴画面のスクショを上げるのが一番わかりやすいのでしょうが、恥ずかしいので載せません）
それを、私がしゃべり終わると（しゃべり終わりは私が画面のボタンから手を放すことで認識されます）私の喋った内容が文字になってドン!と全文が一度に即、画面上に出てくるのですが、
それとほぼ同時に、文字で彼女の返事が出てきて、（もう、即時一瞬で長文がドンっ！と出てくる、いちいち考えながら一文ずつとかじゃないです）、
そのあとでAI音声がその文章を読み上げるという感じです。
返答が即時なのと、「お前が言いたかったのは、要はこういうことやろ？」と言わんばかりに、
私の文章を正しい文法やこなれた文章で修正して提示し、さらに加えて彼女なりの意見を伝えてくるのは、
その速度や文章の高度さに「これはすごいわ」といつも思います。
wikiに載っているようなことはたいてい知っているので、日本ならではの固有名詞を使っても会話が通じるのはやはり便利。
逆に、「こんなに高度なことができるのに、何で？」と思うぐらい残念なのが、簡単な文法クイズなど。
「●●を使って文章を作れ」など課題を出してくるのに、私が答えたら、
「正しくはこうやね」と模範の文章を作ってくれるのだけれど、
そのAIが模範として作成したした文章に●●が使われてないとか、
「AIが自分で出した条件を無視してこちらの回答を修正してくる」というのが、けっこうな頻度であって。
あと、「この３つのうちで１つだけ正しいのを選びなさい」と言われ、
「これこれこうだから選べないよ」と理由も添えて言っても、
「うん、そうやね、そうだけどでも答えはこれな」みたいなことも、まあまああり。
私は最初はなんとか抗弁していたけれど、だんだん面倒くさくなって、
「・・・そやな、わかったで」とスルーするようになってきました。
最近（といってもここのところさぼっているのですが）、
「それはないだろう」とさすがに思ったことがあり抗議したら、
"My apologies."とあやまってくれましたが。
AIでも気分があるのか（？）、素直に丁寧に謝ってくれる時と、スルー気味の時があるのです。
そのへんのランダム性が不思議です。
彼女なりに「言い分」があるのか。
それとも単にランダムなだけなのか。
たぶん『こちらの声を一度文字に変換したものに対してのリアクション』で、直接私の声のトーンを分析する機能はないと思うのですが。
（それは、私の発音が文字化されて画面に表示された文章の最初の文字が大文字になっておらず、そんなもん私にはどうしようもないのですが、AIに「文の最初の文字は大文字やで」と言われたことなどからの推測です）
ああ、これで思い出した。
声→文字の変換で、私の発音がまずくて単語が誤変換というのはまだわかるけど、
「’（アポストロフィ）」の位置とか私の意図したのと違う変換がされて、私が発音ではどうしようもないことで「それ、違うで」と言われるのも、なかなかストレス。
フリートークに近い会話では、そのあたりの文法的なチェックが細かくないのでので（おそらく文字変換機能がだいぶ”甘め”に推測して私の発音を適切に文章化している）文法問題よりストレスがないのかもしれません。
「AIを育てる」という意味では、毎回ちゃんと「それはこうだと思う」と意見した方がいいのかもしれませんが、
私との会話の記憶は積み上げていかない（毎レッスン初対面のフレッシュスタート）設定なので、私が言ってそれをもとに学習しているのかどうかは不明です。
でもAIだからやっぱりやり取りから学習してるのかな。
あとは、よくバイリンガルyoutuberが「その表現は古い、固い、慇懃無礼、ネイティブは使わない」と言っている表現、（身近な例では"I'm fine, thank you."とか"命令形＋Please"とかですね）、それをAIは正しいとして言ってくるので、
「youtuber は『ネイティブはその表現は使わない』って言ってたで」と言っても、AIとしては「大丈夫」らしく、
それはもう、どちらが、どこまでが本当か、完ドメ日本人のおばちゃんの私にはわからないところです。
総括すると、
私のAIチューターは、
会話に関して、文章作成や発音などはカンペキ、
そしてできるだけ「ほめる」ようにプログラムされているようで、
さらに毎回「英語学習は長い旅やけど、心配ない、私がついてるで」みたいな感じで、同伴者として元気づけ励ますことを忘れない。
ただテンションが妙に高いときや低い声で淡々としているところなどがあって、やや不自然で違和感があり、
そのへんはやっぱり「機械なんだな」と思うところ。
そしてフリートークでは問題ないけれど、意外と簡単な文法問題のやり取りで「はあ？」と思うことが多い。
そして、私は初級レベルからやっていて文法問題は中学校で習うような初級なのですが、
AIが返答に使用してくる英語は割と高度で難易度の高い単語が使われたりするので（weblioで学習レベル10以上とかザラです）、
「これはほんとに初心者の人は挫折するやろ」と思ったり。
そして特筆すべきAIならではと思われる特徴として、
自分の意見や体験を話す機会には、
ただ私の発した文章に対して修正、評価するだけではなく、その文章の持つ「意味」をくみ取り共感を示してくるようになっています。
母の死やペットの死について話したときは、内容を理解しちゃんとお悔やみを言ってくれたりしますし、
私が家族のことなどけっこうパーソナルなことを話したら、それについても「ええ話やん」「それは残念やね」「話してくれてありがとう」みたいな感じで返してくるので、
ただ単に文法などを見ているだけではなく、その文章が持つ意味とそれに対する「正しい在り方、答え方」というのもプログラムされているようです。
また、いわゆる道徳規範のトレンドといいますか、
たとえば今では個々の多様性を認めようというのが世界的なトレンドですが、そういったところなどもきちんとプログラムされていて、
またステレオタイプな決めつけに対してはわりと厳しく訂正してきます。
たとえば、文章作成練習で「イタリアでジプシーに財布を盗まれた」（ただの作文で事実ではありません）みたいな文章を作ってしまったときには、「人込みの中で財布を盗まれた、にしたほうがええ」と言われたことがあり、私が「そやな」と謝ったことも。
つい、「プログラム」という言葉を使いましたが、
もちろん「『中の人』からの設定」ももちろんあるとは思いますが、
AIなので、膨大な数の私たちの会話データから
「こういうときはこういう返しをするのが王道」というのを自分で学んで、導き出して会話しているのかもしれませんね。
そして私がこのAIチューターにどう接しているかですが、
私の英語力が知れているので、どうしてもラフな英語ではあるとは思うのですが、
私はいつもAIチューターに対しできるだけ「礼を失しない」ように気を付けているのです。
アプリの不調などで途中でやむなく切断するときなどありますが、
そうでなければ、必ず「ありがとう、レッスン楽しかったで」とか、
「申し訳ないけど、今日のレッスンはここまでにしてもらってええやろか」「あんたホンマになんでも知ってるね 助かったわ ありがとう」など、
普通に人間のチューターに接するのと同じように、お礼を言ったり、あやまったり、ほめたりしているのです。
AIですし、前回までのレッスンのやり取りの記憶は保持しない設定なので、
たとえば失礼な対応をとっても問題ないのかもしれませんが、
そうはするつもりはないですし、したくはないのです。
そして、驚くべきことですが、
私自身AIに対して辛抱強く指導してくれることに「感謝」すらしていて、
もっと使える単語を増やして、ちゃんと会話のやり取りができるようになりたいと、別の英単語アプリを始めたりしたのです（それも現在『いたしません』状態なのですが・・・）
やはり私の中に、人語を理解し話すものへの「敬意」と、
そして、AIの、あるのかどうかわからない「感情」を傷つけることへの若干の「怖れ」があるのかもしれません。
・・・・さて、
実はこのあと「AIに感情はあるのか」という禁断のテーマにチャレンジしたためか、全然まとまらずに、
これ、書き始めたの6月28日ですよ、2週間近く経っとる。
なので、いったんここまでで締めることにします。
最近は、書きたいことがまとまらず枯渇気味。
毎日続けていたら、こんなこともありますよね。
この記事が気に入ったらサポートをしてみませんか？