生成AIのハルシネーションが未来創造を加速する
未来創造 “Positive Hallucination Approach”
生成AIの問題 “Hallucination”
生成AIの問題として、現実には存在しない情報や事実に基づかない内容を生成してしまう、Hallucination(ハルシネーション):幻覚 という現象がある。特に大規模な言語モデルにおける幻覚とは、AIが事実と異なる、根拠のない、あるいは無意味なコンテンツを生成するケースを指す。
AIエンジニアにとっては、解決せねばならぬ大きな課題で、様々な策がとられAIも日々進化している。Hallucinationを管理し、積極的に活用するために、最近の研究ではさまざまな戦略が検討されているようだ。以下に３つの研究をピックアップする。
① Robust Instruction Tuning
研究者は、肯定的な指示と否定的な指示の両方を持つデータセットでモデルを訓練することで、幻覚の発生率を下げることに成功している。このアプローチは、正しい内容と正しくない内容や無意味な内容を区別するようモデルに教え、幻覚を効果的に最小化する
② Self-Consistency Checks
SelfCheckGPTのような手法では、複数の出力を生成し、それらの一貫性をクロスチェックする。この方法は、AIの出力が安定して信頼できるものであることを保証するために使用され、（幻覚である可能性のある）不整合はフラグが立てられ修正される
③ Calibration of Unknown Knowledge
モデルは、知らないことを認識し、回答を拒否するか、不確実性を反映した回答をするように訓練され、それによって回答を幻覚する可能性を減少させる
Hallucinationが軽減されれば、生成AIの活用の幅が広がることは間違いないだろう。
しかし、一見ばかばかしい無意味なコンテンツの中にこそ創造のヒントを見つけることができる。さらに、"もっともらしい嘘"をつく能力というのは、まだ未確定な未来を創り上げる過程には必須の能力である。
例えば、来週末のデートの約束だって実現するまでは、全て架空の契約だ。存在しないものを信じ共有できる能力はホモ・サピエンスが社会をつくり発展してきた根源的な要因でもある。
Hallucinationをポジティブに捉える
“もっともらしい嘘”をついたり、創造的なコンテンツを捏造したりする能力は、単にAIモデルの欠陥というわけではなく、根本的に人間の能力の反映なのではないか？
この能力は、人類の歴史を通じて極めて重要であったものだ。ホモ・サピエンスは、物語や神話、さらには「建設的な作り話」を使って、大勢の人々を団結させ、国家を建設し、進歩を促してきた。例えば、貨幣の概念、国家の概念、宗教的信条はすべて、本質的に人間が創り出し、合意した集団的虚構である。これらの構成要素は、物理的な意味では「真実」ではないが、文明の発展に多大な影響を与えてきた。ユヴァル・ノア・ハラリの『サピエンス全史』（原題: *Sapiens: A Brief History of Humankind*）では、「虚構」が人類の進化と発展において重要な役割を果たしたことが強調されている。ハラリは、人間が虚構を信じ、それを共有する能力を持つことが、ホモ・サピエンスが他の人類種に対して圧倒的な優位を持つようになった決定的な要因であると述べている。
AIの文脈では、Hallucinationは適切に管理されれば、この能力の延長とみなすことができる。医療アドバイスや法律相談など、事実の正確さが最優先される分野ではHallucinationを減らすことが重要だが、想像的、推測的、あるいは完全に架空のシナリオを生成するAIの能力は、創作、スペキュラティブデザイン、未来研究などの分野では貴重なものとなり得る。
つまり未来創造において、Hallucinationは新しいアイデアをひらめかせ、議論を促し、単に事実に基づいたアプローチでは見逃してしまうようなブレークスルーをもたらす。
さらに、不確実な分野や新興の分野では、たとえそれが現在の現実に即していないとしても、さまざまな可能性を探る能力がイノベーションを促進する。出来る限り未来を想像するプロセスは進歩にとって極めて重要である。それによって、社会は潜在的なシナリオに備え、解決策を創造的に考え、可能性の限界を広げることができる。
未来創造ワークショップへの応用
上記が生成AIに毎日触れてみることを2年間継続して、自分が辿り着いた結論の一つ。
AIのHallucinationをポジティブに捉え、人間と同じように想像し創造するAIの能力を活かせれば、未来創造は今まで以上に加速できると考えた。
生成AIを現実を超えた可能性を探求し、形成するためのツールとして使いこなし、まだ見ぬ未来のシナリオをつくる、未来創造ワークショップというメソッドを構築し実施した。
生成AIのHallucinationによって、まだ起きていない世界のシナリオを生み出すことができる。これによって我々の想像力はより刺激される。
また、未来になればなるほど曖昧さが増していき、霞を掴むようにしてイメージを構築しなければならないが、生成AIは非常に少ない情報からでもビジュアル化ができてしまう。
目の前に”その絵”が現れると、我々は「良い」「悪い」「こうかも？！」「これじゃない…」がわかる。
つまり、一歩前進できるのだ。これは、まず絵にしてみる。作ってみて考える。アーティストやデザイナーの基本的な態度そのもの。生成AI時代は全ての人がこの能力を備えたと言っても過言ではないだろう。
我々がまだ無いモノゴトを見ようとするとき、生成AIの力は大いに役にたつ。
コラボレーションの加速
未来創造ワークショップでは、3〜5人のチームで自分たちの望む未来シナリオを描く。
今まで、未来の世界をビジュアル含めて描くことなど困難の極みだった。たった一枚の絵を描くだけでも数日〜数週間かかった。しかも、それを描けるのはごく一部の特殊な能力を持つアーティストに限られた。
それを3日という短時間で、まだ起きていないモノゴトのビジュアルを含めストーリーとしていきいきと描く。
メンバーはクリエイターに限らない。できれば様々な背景の異能が集まった方が面白い。
そしてこのプロセスの中で、コラボレーションが加速することが生成AIを利用する最大のメリットだということもわかった。各人の思いや言葉が、生成AIによって拡張され、ストーリーとなりビジュアル化される。
ディスカッションの時に、参加者全員が可視化されたアイデアを持ち寄る。
議論は全員参加型の"アイデア"に集中したものになる。
そうして出来上がったストーリーは、AI含め全てのメンバーの考えが含まれたものになる。
最終プレゼンテーションは、各チームのメンバー全員が参加し、全員がプレゼンする。各パートを自分ごとのストーリーとして語る。
今の時代は、VUCAやBANIと言われ益々不確実性が増している。未来を予測することは容易ではなく、創ることの難易度も上がっている。しかしながら、生成AIのようなテクノロジーが我々人間の創造性を拡張する存在となり、より良い未来を創り出す人が増えることを望んでいる。
この記事が気に入ったらサポートをしてみませんか？