デマの威力：AI技術を取り巻く社会的認識の変遷と誤解（１）
AI技術の歴史と社会への影響は、時間の経過とともに大きく変わってきました。その中でも、特定の時期に大きな変動があり、AIに対する一般の認識が変遷した瞬間が幾つかあります。
AIという言葉が一部の研究者や技術者間の話題から、一般大衆に広く知れ渡るようになったのは、20世紀後半でした。一例を挙げると、日本では1980年代から1990年代初頭にかけて、ファジー制御を採用した家電製品の普及が始まり、洗濯機やエアコン、冷蔵庫など、日常生活のあらゆる場面でファジー制御が取り入れられ、AIが非常に身近な存在となりました。
その結果、家電制御などで使用する単純なAIと、専門的な業務を行うAIを区別する必要が生まれ、『エキスパートシステム』という言葉が用いられるようになりました。エキスパートシステムは、特定領域の専門家レベルの判断や知識をシミュレートすることを目的としたAIであり、単なる家電の制御から一歩進んだ形として認識されるようになりました。
2023年に入ってからChatGPTブームが到来し、AI技術は再び脚光を浴びるようになりました。このブームに伴い様々なメディアで、毎日のようにChatGPTやAIの解説が行われるようになりました。
ところが、多くのメディアの取り上げ方や解説の中で、AIに対する誤解や過大評価が拡散され、結果として一般の人々の間でのAIに対する誤解が増大しています。
生成AIに関する誤解の拡大
ChatGPTブームに触発されて、自然言語を生成するAIをはじめ、画像、映像、音などを生成するAIが一気に普及し、日本ではこれらのAIを『生成AI』と称するようになりました。この言葉は、英語の『Generative AI』を日本語に翻訳したものです。
日本のマスメディアや一般の人々の中には、英語の解説が正確であるとの先入観を持つ人が多いようです。確かに英語の情報源は豊富で、高品質な情報も多いのですが、低品質の情報も同様に多いため、英語での解説が必ずしも正しいわけではありません。
英語の『Generative AI』も日本語の『生成AI』も正確な説明はありますが、どちらの説明にも誤ったものが散見されるため、正確な生成AIの定義を再度説明します。
生成AIに関する認識は、日本国内では誤解が生じ易いため、筆者は『狭義の生成AI』と『広義の生成AI』の観点で捉えるようにしています。本来の意味である『広義の生成AI』は、多くの人々が想像する生成AIとは異なり、文字や画像、映像、音だけでなく、創薬、分子設計、薬物予測、副作用予測、化合物予測（新マテリアル系）、設計、部品最適化（素材や形状の最適化等）、動作テストなど、与えられたデータセットを学習し、そのデータに基づく新しい情報やコンテンツを生成するものを指します。
以下のような『広義の生成AI』が本来の『生成AI』の正しい使い方です。
言葉の定義の正確さは極めて重要で、不正確な定義や理解は、現在のAIに関する誤解を増幅させる大きな要因となっています。
生成AIの誤解と並行して誤解が大きくなっている言葉として『プロンプトエンジニアリング』が挙げられます。
近年、多くのAI初心者が、狭義の生成AIへの指示を『プロンプトエンジニアリング』と誤解していますが、これは大きく間違った認識です。
プロンプトエンジニアリングの本来の意味は、AIに対して最適な指示や質問を設計し、望む結果や応答を引き出す技術や方法論を指します。これは、単にコマンドを書くこと以上の深い知識や理解が求められるものであり、AIの能力を最大限に引き出すための鍵となるスキルです。
なぜ正しい情報よりも間違った情報の方が拡散しやすいのか？
正確な情報よりも間違った情報やデマの方が拡散されやすい傾向については、社会学、心理学、メディア学などの多岐にわたる学術分野で研究されているテーマです。SNSの普及と自然言語AIの普及に伴い、情報の拡散スピードが速くなり、その結果、情報の真偽を確認する前に共有されることが急増して、深刻な社会問題となっています。
人々が真実や事実よりもデマを信じやすい理由として以下のような点が挙げられます。
感情的連鎖反応：デマや誤情報は、人々が共感や興奮を覚え易い驚きや怒りなどの強い感情を伴う感情的な反応や衝撃を引き起こす内容であることが多く、理性的な判断が機能しづらいため、間違った情報に拍車が掛かって連鎖的に人々の間に伝播し易いです。直近のAIのデマが拡散する要因には、哲学者のニック・ボストロムや、彼のAI脅威論の影響を受けているイーロン・マスクや、ビル・ゲイツによるAIによる人類絶滅のような衝撃的な内容や、国内外のマスメディアによるAIの普及によって80％が失業するといった衝撃的な情報は拡散し易いです。
単純化された情報：誤情報は往々にして単純で分かり易く、一般的な知識や常識に反していることが多いです。これが、人々に新鮮さや驚きを提供し、拡散の動機になります。日本のAIに関する間違った情報の震源地は松尾豊です。松尾豊の説明は分かり易いと評判ですが、これは彼が難しいことを説明しているから人々に受け入れられているのではなく、複雑な問題を無視して、物事を単純化して説明するので、一般人でも分かり易いというだけの話です。要するに、松尾豊レベルの話を聞いて勉強になったと思っている人ほど、AI本質が分からなくなっている傾向が顕著です。
確認バイアス：人々は自分の信念や価値観に合致する情報に対して肯定的になり易く、それを疑問に思わない傾向があります。そのため、自分の持つ先入観や信念に合致する誤情報に対しては、批判的思考をせずに受け入れ易くなります。
群集心理：ある情報が多くの人々に共有されていると、それが真実であるとの認識が強まります。多くの人が信じている、あるいはシェアしている情報に、個人は自然と信頼を寄せ易くなります。
情報過多：現代の情報社会では、情報が溢れかえっています。そのため、各情報の真偽を確認することが難しく、見た目や感じが真実に近そうな情報を信じ易くなる傾向が強くなります。
以上のような心理的、社会的要因により、誤情報やデマは容易に拡散し、その結果、社会に混乱や誤解をもたらすことが多いです。
デマは世界恐慌や世界大戦の引き金ともなり得る深刻な社会問題で、以下のような学術分野で研究されていますが、これらの学問だけでなく、他の多くの分野でも様々な角度から研究されている重要なテーマです。
歴史学：歴史的事件やパターンを分析することで、デマや誤情報がどのように社会的・政治的な出来事に影響を与えたかを詳しく調査します。
政治学：政治的動機や力関係、国際関係を考慮に入れて、デマや誤情報がどのように国家間の対立や協力に影響を与えるかを研究します。
心理学：デマや誤情報が個人や集団の認知、感情、行動にどのように影響するかを調査し、それが大規模な出来事にどのようにつながるかを解明します。
社会学：社会的な構造やグループ間の関係性、情報の拡散メカニズムを考慮に入れ、デマや誤情報が社会全体にどのような影響を与えるかを研究します。
コミュニケーション学：メディアや通信手段を通じての情報の伝播、受け手の反応、情報の解釈や変容のメカニズムを分析します。
経済学：デマや誤情報が経済的な意思決定、市場の動向、経済危機などにどのように影響するかを調査します。
法学：デマや誤情報が法的な判断や制度、国際法にどのように影響するかを研究する観点からも重要です。
情報学：情報の流れ、デジタルメディアの影響、フェイクニュースの拡散メカニズムなどを研究します。
哲学：真実や知識、信念の本質を考察し、誤情報やデマの哲学的な側面や影響を探求します。
誤情報やデマの拡散は多くの要因によって促進される現象であり、それを理解するためには様々な学術分野の知見が必要とされます。これらの情報が社会や個人に及ぼす影響の深刻さを鑑みると、情報を受け取る際の批判的思考の重要性が際立ちます。
この記事が気に入ったらサポートをしてみませんか？