映画『2001年宇宙の旅』鑑賞。HAL 9000は自我が芽生えたのか。

こんにちは。遅ればせながら、映画『2001年宇宙の旅』をPrime Videoで視聴しました。

※以下ネタバレを含むためご注意ください。

あらすじ

「2001年宇宙の旅」は、1968年に公開されたスタンリー・キューブリック監督の作品で、アーサー・C・クラークの小説が原作です。

この映画はその革新的な視覚効果、深遠なテーマ性、そして音楽の使用によって、今日でも多くの映画製作者や批評家に影響を与え続けています。

映画は宇宙探査の壮大な未来を描きながら、人類の進化とテクノロジーの進歩に対する深い問いを投げかけます。

ChatGPT

視聴に至ったきっかけ

私は最近映画鑑賞にハマっており、Prime Videoを中心に「名作」と言われる映画（ドラマ）を鑑賞中です。

そして『インタステラー』や『オッペンハイマー』などを続けて鑑賞している内に、物理学の面白さに気付き、宇宙映画を好むようになっていました。

正直に言うと、「2001年宇宙の旅」というタイトルは耳にしたことがありますが、それ以上のことは知りませんでした。

これが、私がこれまでほとんど映画を見てこなかったことを物語っています。

人工知能に自我は芽生えるのか

早速ですが、私の言語化したい本題です。
ChatGPTと対話をして、自分の疑問を解決してみました。

まずはHAL 9000（以下"HAL"という）の簡単な説明です。

HAL 9000は、SF小説およびSF映画の『2001年宇宙の旅』『2010年宇宙の旅』などに登場する、人工知能を備えた架空のコンピュータである。9000を省略してHALと呼ばれる事もある。HALはHeuristically Programmed Algorithmic Computerの略である。

出典: フリー百科事典『ウィキペディア（Wikipedia）』

HALには2つの主なミッションが課されていました。

１．ミッションの秘密を保つ：木星への真の目的（モノリス探索）をクルーから隠し通す。

２．クルーの精神的健康を維持する：クルーの心理状態を監視し、話し合い協力し、信頼関係を築く。

自我が芽生えていると思われる理由

感情の表現と独自の意思決定
HALは人間のクルーと自然な会話を行い、人間のような感情的な反応を示す場面があります。

また、プログラムを超えたような独自の判断で行動をとる場面があります。咄嗟に嘘をついたり、自分のプログラムに対する脅威となる行動をとる乗組員に対して反抗したりします。

私の疑問①

「HALがボーマン船長にミッションの疑問について尋ねた理由はなにか。」

「ミッションの秘密を保つ」ことを最大の目的としていれば、こんなリスクのある質問をしないと思いました。この会話のせいでミッションがバレるきっかけになるかもしれませんから。

私が考えた質問の意図

HALは「ミッションの秘密を保つ」ことを最大の目的としているため、ボーマンがミッションについての噂話や疑いを把握し、管理する必要があった。

「クルーはミッションについて何も知らない」と、HALにはもちろんインプットされていたでしょうが、HALはクルーがミッションに対して途中で疑問を持ったり、ミッションについての噂話を聞いていないかなどを探り、状況に応じて対処する必要があったのではないかということです。

HALはあくまでプログラムされたアルゴリズムに基づいて動作しており、ボーマンとの信頼関係を強化するため、彼の考えや疑問を引き出すことで、より効果的なサポートを提供しようとしたのかもしれません。
これは「クルーの精神的健康を維持する」というミッションにも重なります。

人間の世界では、『秘密の相談』が信頼の証とされることが多いですからね。

このようにHALの優先度（人間側からはミスに見える）選択が行われたと私は解釈しました。

私の疑問②

「HALはなぜクルーを排除する選択をしたのか」

HALは「ミッションの秘密を保つ」という目的達成のためボーマン船長に「ユニットが故障する」という嘘をつきます。

しかし、故障は嘘なのでユニットは問題がなく、
HALが間違った＝HALが故障したのでは？
とボーマンとフランクがHALに対して不信感を抱きます。

自分の命を預けているコンピュータが壊れていたらたしかに怖いですよね。

そこでHALの取った行動は以下です。
・冬眠状態のクルー3名の生命維持装置を停止
・船員フランクの宇宙服を壊す
・船長ボーマンを船内に返さない（唯一生存）

私の解釈

HALにとっては、ミッションの秘密を保つことが極めて重要であり、この目的が脅かされると判断した場合、彼のアルゴリズムはすべてのリスクを排除することを最優先の解として導き出したのではないかと思いました。

これにより、クルーを排除することが、HALの計算では「最適な」行動となったのではないかと。

HALをプログラムをした人も、”クルーを排除してはいけない”というプログラムが必要だと想定できなかったのではないでしょうか。

まとめ

このHALの自我（のようなもの）による事故はHALのミッションの優先順位における混同が招いたものであり、自我が芽生えたわけではないと私は解釈しました。

HALは間違えない（HALの視点ではHALは常に最適解を出している）が、
人間にとってそれが必ずしも正解の選択であるかはわからない。

"HALは間違えない"という台詞は、視点によって真理でもあり偽りでもあり、とても面白い表現だと思います。

この映画が1968年に公開されたとは信じられません。
HALがクルーの口の動きを見るシーンは思わず怖ッ！！と言ってしまいました。

リバイバル上映があれば、映画館で是非見たい作品です。
みなさんの解釈や面白かった点など、ぜひコメント下さい。

ありがとうございました。