生成系AIについての現時点での雑感
（主としてChatGPT3.5を使用。何度かBingAIを使用。）
ユーザーと生成系AIとのインタラクションの基本は、「(a)ユーザーが指示してAIにアウトプットさせる」というもの。このバリエーションとして「(b)ユーザーが指示してAIに「ユーザーへの指示を」アウトプットさせる」「(c)ユーザーが指示してAIに「AIへのアウトプットに対する反応を」アウトプットさせる」というものがある。これらの組み合わせによって、ユーザーが新たな知識を得たり、AIの支援によってユーザーが経験的に学習したり、AIのアウトプットを洗練させてユーザーがより高品質の知識を得たりすることができる。
個別具体的な事実情報の厳密な再現は現時点では全く信用できない。引用元を表示させることはできるが、そうすると今度は「検索のまとめ」以上のタスクをこなすことが難しくなる。
コンテンツの要約、はそれなりに有効。ただし文章をなめらかにしすぎて重要な要因が欠落した、焦点のぼやけた情報になってしまっている恐れもある。
事実情報ではなく、抽象化した思考のフレームのようなものの再現に関しては相当優秀である。これは人間の思考支援にかなり有効であると考えられる。しかし一方で、プロンプトの与え方が不適切だと、もっともらしいが実際には何も言っていない、ダメなコンサルの助言みたいなアウトプットしか得られない。
（２）～（４）はnグラム的な統計的推論とベクトル化による情報圧縮に基づく「ありがちな文章の生成」自体の特性と考えられる。
したがって現在の方向性では（２）の問題の原理的な解決は困難。正誤判断についてはこれまでとは別の概念と機能を導入する必要があると思われる。
また、異質な要素の組み合わせによる発想支援、にはかなり有効（正解を必要としないため）。
これらは相手が「人間」であっても実は同じで、従来から存在した問題であるとも言える。それと生成系AIの場合では何が本質的に異なるのか、それはなぜなのか、を考えることに意味がある。
あわせてそこから、かつて認知科学がコンピューターをアナロジーとして人間の脳機能の理解を深めたように、生成系AIをアナロジーとして人間の思考や記憶機能を理解する学問領域が生まれてくると想定される。
（５）の問題によって当分の間（もしかしたらこれから永遠に）、SNSにおいて生成系AIが撒き散らす「偽事実情報」や「焦点のぼやけた情報」「もっともらしいが実は何も言っていない情報」による「情報汚染」が蔓延すると考えられる。
この「情報汚染」は、マシンパワーや人力を余分にかけることでそれなりに回避可能だが、そのためのコストが問題化する。したがって、全面核戦争後の地球における放射能に汚染された大気とシェルターの関係のように、大多数の人々は情報汚染を甘んじて受け入れるしかなく、コストを支払える限られた人々だけが「情報シェルター」にアクセスしうるような社会が到来する危険性もある。
一方、情報汚染の回避程度によって、情報がランク付けされて流通するようになるかもしれない。無農薬野菜や無添加食品のように「生成系AI不使用情報」がラベリングされるようになるかもしれないし、食品のトレーサビリティのように情報生成経路の開示義務が課せられるようになるかもしれない。
情報汚染に長期間さらされることが、人間の心理状態や思考、価値観、コミュニケーションスタイル、人間関係、発達、学習、言語、感情にどのような影響を与えるかは未知数。
生成系AIのデータセットや学習プロセスによって、アウトプットの質や傾向性は大きく異なるので、その過程やそれに応じた利用方法によって、様々な倫理的な問題が生じる可能性がある。
データセットの枯渇、データセット自体の情報汚染、の問題がやがて深刻化するおそれがある。
取り急ぎこんなところか。
ちなみに（６）の「正誤判断についてはこれまでとは別の概念と機能を導入」については以下の3要素が必要となると考えられる。
ⅰ）正誤の定義と判断基準の設定
ⅱ）プロンプトに対応したオンデマンドのウェブスクレイピング
ⅲ）アウトプット生成におけるスクレイピングした情報の真理保存的利用
生成系AIへの適切なプロンプトを考える行為は、まさにインストラクショナルデザインであると言えよう。これは、後者の知見が前者の参考になるという意味だけでなく、前者の経験もまた後者に新たな洞察をもたらすということを意味する。
（６）に関しては、ChatGPTのアウトプットは例えば「事実率50％」といったインデックスが付けられて流通するようになるのではないだろうか。
この記事が気に入ったらサポートをしてみませんか？