初等中等教育段階における生成AI の利用に関する暫定的なガイドラインについて#2

リュディアです。初等中等教育段階における生成 AI の利用に関する暫定的なガイドラインを見ていきたいと思います。

2の生成AIの概要を見てみます。次のようなページになっています。

ここを見る限りでは文科省の懸念を一言で書くと まだ経験や知識が少なく生成AI の出力に対し真偽を判定できないうちに利用することにありそうです。確かにこれは危ないですね。実際フェイクニュースで多数の大人が騙されるわけなので、初等、中等教育レベルだと膨大な情報の中から尤もらしい回答を出す生成AIは全能の神に見えてしまうかもしれません。

プロンプトと呼ばれる生成AIへの指示文についても言及があります。ここは確かにそうなのですけど、この話を持ち込むと間違った、あるいは虚偽の結果を得るのはプロンプトが悪いからと考える人が出るかもしれません。そうではなくてプロンプトのうまさ、あるいは生成AIとの相性で結果は変わるということだけにしておくべきではないでしょうか。またAIの透明性についても言及されていますが、これは今もまさに大きな研究テーマの1つで説明可能AIに近いのではないかと思いました。最終的になぜその結論を出しているのか説明可能なAI というのは特に大規模言語モデル（LLM）ではまだまだ現実的ではありません。せいぜい可能性があるのは事前学習で使ったデータの内容を知るくらいだと思います。閉じられた空間にあるデータであれば、どのようなデータを事前学習に使ったのか把握できますよね。しかしネット上で一般にアクセス可能なデータ全てを使って学習している場合は事前学習のデータすら把握できなくなります。

教育現場で伝えるべきことを簡単に書くと、元データが何であるかを把握することは難しい、または不可能、元データ以上の結果は出ない、なぜその結果が導き出されたかプロセスを把握することは現状で不可能、くらいのことをしっかりと伝えてもいいのではと思います。

では、ごきげんよう。