生成AIと教育を考える4「うそつき」

生成AIをめぐるニュースが世界中目まぐるしく発生している。

５月３１日のNHK番組で「生成、注意すべきは」という内容を放送していた。注意すべき内容は２点あって、「著作権 商標権などの権利侵害になる可能性に注意」と「生成AIに入力した情報が他者に流出するおそれ」である。具体的には「知的財産権を侵害しないこと」と「秘匿性の高い情報は入力しない」だ。関係する職業への注意喚起と漏洩した情報が犯罪に使われる恐れも指摘していた。

同日のポッドキャストDILY BRIEFでも、 「専門家たちはAIのリスクを深刻に捉えていてサンフランシスコのNPOがAIによる絶滅のリスクを訴えて声明を出している」「AIによってもたらせるリスクはパンデミックや核戦争と並ぶ重要事項で、これを最小化することは世界的な優先課題だ」として紹介している。AIの第一人者ジェフリー・ヒントン、台湾のデジタル大臣オードリー・タン、オープンAIのCEOサム・アルトマン、デープマインドCEOのデミス・ハサミスなど350人以上がこの声明に署名している。

サム・アルトマンはチャットGPTの開発者であり、日本にチャットGPTを売り込みに来て岸田首相と会見を行い、国会でもそのことが取り上げられた。つい二ヶ月前くらいのことだ。しかし、その後は生成AIの暴走に恐ろしさを覚えたのか、今はブレーキをかけようと必死だ。欧州委員会でも規制をするように訴える予定と伝えられている。

チャットGTPのほかにも生成AIが次々と発表されている。アプリも各種できてきている。確かに文章を書くのにとてつもなく便利である。使い出したら離せない。それだけではない、コンピュータやインターネットの登場以上の劇的な変革が予想される。

しかし、教育に使うとなると心配なことがたくさんある。使う人間にスキルと哲学が求められる。それらがないと犯罪とまでいかなくても平気で改竄ができてしまう。ズルできるのだ。

チャットGPTはウソをつく。AI自体はウソとは思っていない。問われたことに「わかりません」とは絶対に言わず、もっともらしい虚構を生成する。次に来る最適な言葉を選択し続けるというアルゴリズムに従っているだけだ。このウソを見抜ける知識やコントロールする力を使う側がもっていないとならない。

教科書に載っている読書感想文を書かせる問題を解かせてみた。
問い「池澤夏樹作『きっぷをなくして』という小説の読書感想文を書いてみて」

チャットGPTの回答は次のようになった。
ChatGPT
「きっぷをなくして」という小説は、池澤夏樹によって書かれた魅力的な作品です。この小説は、登場人物の内面の葛藤や人間関係を描きながら、現代社会の中での孤独や希望を探求しています。
物語は、主人公である高校生の夏川圭介が、電車の中で切符をなくしてしまうところから始まります。彼は何気ないミスがもたらす連鎖的な出来事に巻き込まれ、次第に人々との関わりを深めていきます。夏川圭介の心の変化や成長が、読者にとって心地よい感動を与えてくれます。
この小説の最大の魅力は、登場人物の心理描写と人間関係の微妙な描写にあります。作者は、人々の思考や感情の奥底に迫り、それぞれのキャラクターの背景や心情を丁寧に描き出しています。特に、夏川圭介の内面の葛藤や孤独感は、読者に共感を呼び起こし、物語に深みを与えています。
また、本作では現代社会の問題やテーマも巧みに取り入れられています。登場人物たちは、都会の喧騒や人間関係の複雑さに直面しながら、自身の存在意義や希望を見出そうと奮闘します。作者は、読者に対して社会的なメッセージを投げかけながら、一人ひとりの心の成長や再生の可能性を示しています。
「きっぷをなくして」は、情感豊かな文章と緻密なストーリーテリングが特徴の小説です。池澤夏樹の繊細な筆致によって描かれる登場人物たちの成長や人間模様に触れることで、読者は自身の内面に対する洞察を深めることができます。この作品を通して、現代社会の中での希望や人間の絆の大切さを考えさせられるでしょう。

「そうか、そうきたか」という感じ・・・。もっともらしく仕上げているが、いったい夏川圭介って誰？主人公はイタルだったはず。現代社会の問題もたくみに取り入れられているのか？・・・AIが創作してしまっている。

もう一度書く。チャットGPTは「わかりません」とは言わないで、もっともらしい最適値の言葉を繋いでいくアルゴリズムで作られているのだ。いまのところであるが。もっとデータを蓄えれば、最適値の精度があがるはずではある。ものすごい勢いで日本語のデータを食っているので、この問いも早いうちに正確なものに変わってくるのだろう。しかし、根本的なことをわすれてはならない。人間は最適値の中で生きているわけではなく、突拍子もないできごと、想定外の連続の中で生きている。生成AIを使ってもっともらしい答えを誰もが出せるとしたら・・・どうなるのだろう。