AI倫理関連映画紹介（２）

『1984』（1984年）（原題：1984/Nineteen Eighty-Four）
監督：マイケル・ラドフォード
原作：ジョージ・オーウェル
　この原作が書かれた1948年には、まだAIが存在していなかったため、本作品とAIは直接的な関係はありません。それにもかかわらず、NLPの普及が、ジョージ・オーウェルの『1984』を連想せずにいられないのは、この技術はGPTがビッグブラザーのようであり、GPTと長時間チャットを続けていると、国家や大企業などがGPTの運用者となり、バイアスの掛った状態で運用するようにGPTのトレーニングを実施してしまうと、イデオロギーに反する思考は『思考犯罪（thought crime）』で、ポリティカルコレクトネスピーク（Newspeak）では『思想犯罪（crimethink）』を防止するために、二重思考（doublethink）を身に着ける必要があるように感じてしまうからです。
 
　この感覚は『1984』を読んだことがあり、GPTから言葉の問題を指摘された経験が無いと、何を言っているのか意味不明のはずなので、以下に『1984』を読んだことも、映画も観たこともない読者向けに、『1984』がどのような小説なのかを解説します。
 
　この小説では、ビッグブラザーと呼ばれる全知全能の権力者が国民を監視し、情報を操作し、思想を統制するというディストピアの世界が描かれています。本日のAI技術が急速に発展する中で、『1984』の描くような監視社会が現実となる可能性が懸念されています。
 
　現代のAI技術は、顔認識や音声認識、行動分析などの機能を持ち、オンラインやオフラインでの個人の行動を把握できます。現時点のGPT-4のレベルですら、タイプした内容だけでもユーザの思想までプロファイルすることが可能であり、更には愛読書のタイトルを数冊入力しただけで、かなりの確度で、その人物像がプロファイルできます。
 
　最近はプロファイル機能にある程度制限が掛けられたようですが、試しにどんな書籍でも構わないので、2021年以前に出版された本のタイトルを入力して、この本を読んでいる人物をプロファイルするように依頼すると、様々な要素から読者の思想背景まで、かなり的確に分析する能力があることが分かります。
 
　これにクレジットカード利用歴の情報や、スマートフォンのGPSによる位置情報の履歴や、スマートウォッチから得られる心拍数や生活のリズムに関する情報などが加わると、更に詳しく個人の思想まで推測可能です。
 
　更には、GPTは他のAIシステムと組み合わせることで、音声や表情やジェスチャーから、リアルタイムで感情認識まで、かなりの確度で分析することが可能です。
 
　インターネットが普及し、スマートフォンやウェアブルデバイスが人々の生活に浸透する中で、GPTのこういった能力を、何の倫理規定もないまま使用してしまうと、現代のAI監視社会はオーウェルが描いたディストピアが現実のものとなることが懸念されます。
 
　このような状況を受け、今後はAI技術の進化に伴い、個人のプライバシーや思想の自由を保護するための法律や規制が整備されることが求められています。また、政府や企業によるAI技術の適切な利用が重要であり、技術の進歩と倫理的な問題のバランスを両立させた、持続可能な監視社会の構築が求められています。
 
　更に、一般の人々にとっても、AI技術やデータ分析のリスクや影響について理解し、自らの権利を守る方法を学ぶことが大切です。デジタルリテラシーを向上させ、情報の収集や保護、使用に関する意識を高めることで、ディストピアな世界の実現を防げるでしょう。
 
　最後に、オーウェルの『1984』は、我々が向き合うべき未来の問題を予見した作品として、現代でも多くの人々に読まれ続けています。この小説から学ぶべき教訓を忘れず、技術の進化を適切に活用し、よりよい社会を築いていくことが極めて重要です。
 
ジョージ・オーウェルの『Animal Farm』
　ジョージ・オーウェルの『Animal Farm』は、アニメや映画にもなっていますが、原作とはかなり異なる内容です。ここは映画解説コーナーであるにも関わらず、原作の小説を読むことをお勧めします。
 
『Animal Farm』は、権力の悪用と階級制度による不平等に焦点を当てた寓話的な物語です。この物語を現代のAI技術の文脈に当てはめることで、AIがどのように権力構造や不平等に影響を与えるか、そしてこれらの問題を克服するために何ができるかを考察できます。
 
『Animal Farm』では、動物たちが農場の人間支配から解放されるものの、最終的には豚たちが支配者となり、新たな不平等な社会が形成されてしまいます。この物語は、権力が集中し、社会の一部が他の部分を支配することで不平等が生じることを示しています。AI技術の進歩により、これらの権力構造がどのように変化するのかを考慮することが重要です。
 
　AI技術が発展することで、情報や資源へのアクセスが一部の人々や企業に集中し、社会全体の不平等が深まることが懸念されています。例えば、大企業や富裕層がAI技術を利用して自己の利益を追求し、労働者や消費者に対して不利益を与える可能性があります。また、AI技術の普及により、労働市場において一部の職種が失われることで、職業選択肢が制限され、所得格差が拡大する可能性もあります。
 
　このような不平等を克服するためには、AI技術の普及や利益を広く社会に還元することが重要です。教育や研修プログラムを通じて、AI技術に関する知識や技能を身につける機会を提供することで、労働市場における不平等の緩和が期待できます。また、AI技術を活用した公共サービスや福祉制度の整備を進めることで、社会全体の生活水準を向上させられます。
 
　更にAI技術の透明性や倫理規範の確立が必要です。例えば、AIシステムのアルゴリズムやデータセットに対する監視や評価が行われることで、権力構造の不均衡や偏りを防げます。また、AI技術の開発や利用に関する倫理規範を策定し、企業や政府がそれに従って行動することで、技術の悪用や不公平な取引が抑制することが、それなりに可能になります。
 
　オーウェルの『Animal Farm』は、権力と不平等の問題に対して独自の視点を提供しています。現代のAI技術の文脈において、この物語から得られる教訓は、AI技術の発展に伴う権力構造の変化や不平等を意識し、それらの問題に取り組むことが重要だということです。教育の普及、公共サービスの充実、透明性の確保、倫理規範の策定などを通じて、AI技術がもたらす権力構造の変化や不平等を緩和する取り組みが求められています。