AIが未来に向けて解決すべき４つの課題【海外記事メモ】
今日はこの記事を取り上げたいと思います。なお、画像も以下から引用いたします。
先月末にイーロン・マスクたちがAIの開発を休止するように求める声明に署名をしたことが話題になりました。（→noteも書きました）
この記事の筆者も数々のAI系の記事を出している方で、私も何度も取り上げているNick Babich氏の投稿ですが、AIをガンガン使い倒して有益な情報を発信し続けている彼は何を考えているのでしょうか。
AIの使い方ノウハウや未来予想などのようなワクワクなどとはどうして遠い内容なのですが、なかなか骨太で読み応えある記事でした。
AIが日に日に勢いを増している今こそ、一度立ち止まってそのリスクを理解しておく機会を持つことも大切かなぁと考えたりしています。
本日もよろしくお願いいたします。
現代のAIツールにおける4つの課題
AIは2023年脚光を浴びています。
2022年11月30日にリリースされたChatGPTは世界で初めて2ヶ月の間に1億人ものユーザーを獲得しました。
AIツールを使うことで様々な実用的価値が手に入るため、瞬く間に普及しました。AIツールで仕事を簡単に速く、効果的に行うことができます。
同時に、AIツールはまだ完璧と言えるには程遠いため、この記事ではAIツールが持つ闇の部分を暴くとともに、４つの課題について議論を深めていきたいと思います。
１．AIツールは完全無欠に見えてしまう幻覚を生み出す
AIツールは未だに誤りやエラーを起こします。
しかし、ChatGPTへ質問をして回答を得る際に、あたかもそれが真実のような幻覚を抱きやすくなります。
AIはめったに「わかりません」という回答はせず、誤った回答をさももっともらしい口調で提出してきます。AIが間違った答えを出したのかどうかは、実際に調べてみた後でようやくわかります。
多くの場合、事実検証は自動で行われるものではありません。どうしても人間の作業者や関連領域の専門家に事実確認を行うための時間が必要となります。
仮にあなたが大量のそのような作業者を抱えるチームを率いていたとしても、AIが生成したアウトプットに対して分析をかけていくには限界があります。
Stack Overflowのような巨大なプラットフォームが、その誤りの多さゆえにChatGPTが提供する回答を禁止しだしたことも不思議ではありません。
そもそもこの"幻覚"がなぜ起こるのかを理解することが重要です。インターネット上から答えを探してくるApple Siriのようなものとは異なり、ChatGPTはその場で単語ごとに回答を生成し、次に来る可能性が最も高いセンテンス（トークン）を選択しています。
ChatGPTの回答モデルは予測に根ざしているということになります。
そのため、完全にAIが作る幻覚を避けることはほぼ不可能なのですが、その幻覚が起きてしまう領域を最小化するために予測モデルをチューニングしていくことは確実に可能です。
幻覚が起きてしまう文脈領域を認識することは重要です。もしビジネスの中で幻覚が起こってしまったら、AIが導き出した誤った回答に従うことで簡単に収益が減ってしまう恐れがあります。
それがもし医療領域で起こってしまったのなら、人の命さえ左右しかねません。
そこでOpenAIはユーザーが自身の健康について尋ねるような質問に対しては回答を避けるような仕組みを取り入れていると発表しています。
しかし、この仕組は完璧ではなく、少し質問文を変えることですり抜けられてしまいます。
２．商標権や知的財産の課題
テキストをテキストで返すChatGPTのようなツールも、テキストから画像を生み出すMidjourneyやStable Diffusionのようなツールも、一般的にはネット上に存在する公開された膨大なデータをもとに回答を生成しています。
しかし、これらのツールがアウトプットを行う際にはオリジナルの素材の情報を開示しません。
この問題はStable DiffusionやMidjourneyのような画像生成AIを使う際により敏感になるでしょう。
これらのシステムはインターネット上の何百万という画像をもとに学習をしています。そして何回かこのようなツールを使っていると、ツールが大抵既存のイラストスタイルをマネているということに気づくはずです。
そのためStable Diffusionを作っているStability AIがGetty Imagesに訴えられたということも不思議ではありません。
Stability AIは何百万もの画像をGetty Images所有の画像からAIへ学習をさせていましたが、会社へは１ドルも支払われていなかったと言います。
AIツールはそのアウトプットに関して、参照した情報元の情報を提供することが求められることとなるでしょう。
例えばMicrosoftが発表したBing内のGPTに基づいたチャット機能においては、"Learn more"というセクションを追加し、AIが生成した回答の情報元を参照できるようになっています。
３．人の思考が画一化させられる
我々は我々が独自で情報を理解し、アイディアに対して評価しているものと考えがちです。しかし実際は、我々は自身の専門的な領域（マネジメント、デザイン、雇用など）における他の多数の他者の思考と似た傾向を持つものです。
我々が特定の思考パターンに従うため、AIもそのパターンを良く理解します。加えて、ChatGPTのようなツールは"人間の会話を意図的に模倣するように設計されています。"
結果、AIツールは特定のメッセージにおけるコミュニケーションにおいて非常に高品質なテキストを出力します。
明確な指示さえあれば簡単にChatGPTは人間が書くよりもずっと良い手紙の文章を書くこともできます。
大企業はこのような行動を軽減させるような動きをしています。
例えばMicrosoftはこのような個人的なメールの文章作成をBingのAI Chatで行えないようにしています。
４．嘘か本当かを見分けるのが困難になる
急速なAI技術の発展により深刻な問いが出現しています。
それは「我々はどのようにしてこの技術をコントロールしていくのか？」ということです。
もし我々の誰もがどこでも好きなときにこの技術にアクセスできるようになれば、この技術が悪用されるという巨大な問題と向き合わなくてはならなくなります。
例えばscammersは我々が知っている人々（親戚や友人）の声をAIでコピーすることで人を欺くことが可能です。
親しい友人と非常に似ている声の人物から電話が来たときのことを想像してください。その誰かが緊急のお金の工面を要求してきたらどうでしょうか。
我々はこの大きな流れの中でフェイクニュースのような誤情報をより多く目にすることになるかもしれません。
我々は"複合的な現実"という時代に突入しつつあります。
現実世界において、何が真実で何が嘘であるのかを見分けることが困難となります。
残念なことに、政府の政策はAI技術の進歩よりも非常にゆっくりです。もしこの傾向が同様に続く場合、我々は何が真実で何が正しいのかがわからない暗黒の世界で生きていかなくてはならなくなります。
感想：自分で自分を守る情報リテラシーが死活問題に
仮想通貨界隈ではホットウォレットとコールドウォレットという概念を理解して活用することが求められています。
ホットウォレットとはネットにつながっている仮想通貨のお財布で、コールドウォレットはネットにつながっていないお財布のことです。
過去、日本を含む世界中で起きた仮想通貨の流出はこのホットウォレットとコールドウォレットをきちんと使い分けていなかったことに起因する問題である場合が多く、仮想通貨界隈ではこのあたりの教育や啓蒙活動が盛んに行われており、多くの人が自分自身で自分の資産を守るように心がけています。
このような「自分の身は自分で守る」という姿勢がAIの技術が急速に発展していく中でより重要性を増してくるなぁと感じるのと同時に、そういった自分の身を守る情報にアクセスしない（できない）ような人たちとの間の情報格差の深刻度はより深まっていくものと考えます。
このあたりの教育を普及させていくことも今後の世界においては必要なことなのなかなぁと考えさせられました。
投資の勉強が学校で行われるようになった流れの中で、ネット上での自分の資産・情報の守り方もきちんと最新の正しい情報を今後の子どもたちへ与えていく必要性を感じたりしました。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
個人的に気になった海外記事を週数本メモしていますので、よければフォローおねがいします
__________________________________________________________
ポートフォリオ・お仕事依頼など: https://www.saito-t-design.com/
Twitter : https://twitter.com/yamashita_3
__________________________________________________________
サポートいただいたお金は今後の発信活動に関わるものに活用させていただきます。