今のレベルのＡＩを教育に使うと子どもの脳が壊れます
2024/11/19
//www.youtube.com/watch?v=GbF07773Ouk&t=22s
今回は、現在のレベルの生成ＡＩを教育に使用すると、子どもの脳に悪影響があるかもしれないという話題について解説する。
最近、雇用問題に関して雇用ジャーナリストの海老原嗣生氏と議論を重ねており、『ＡＩは人類の仕事を奪うのか』というテーマで動画を収録している。その中で、ＡＩが子どもの教育に使用される可能性が話題となった。特に、生成ＡＩを使って子どもを育てることにはリスクが伴うと考えている。
子どもの脳は発達段階にあり、大人ほど成熟しておらず学習途中の脳である。この段階で、生成ＡＩからの情報を取り入れることがどのような影響を及ぼすかは不明である。ただし、必ずしもポジティブな結果をもたらす保証はない。生成ＡＩの仕組みによっては、子どもの脳に深刻な影響を与える可能性が懸念される。
その理由の一つとして、生成ＡＩなどの大規模言語のモデルには「ハルシネーション」と呼ばれる現象が起こりうるからだ。ハルシネーションとは、ＡＩが生成する情報に虚偽が混ざる現象であり、１～２割の情報が不正確な場合がある。ＣｈａｔＧＰＴに答えを求めるとそれらしい答えが戻ってくるが、注意深く読むと完全な嘘情報が一部混ざるという現象が起こっている。一部ではそれも仕様のうちだとおっしゃる方もいらっしゃるが、大人であれば一般常識や専門知識を駆使して虚偽を判断できるが、専門知識がない人や子どもにとってはそれが難しい。
なぜ難しいかというと、生成ＡＩの返答はそれなりによくできており、注意深く読まないと見落として噓情報が入ってしまうことが多いにして起こりうるからだ。
人間でも勘違いすることが多々ある。物事の真偽、自分が正しい情報を発信していたとしても、それが勘違いだったということは大いにしてある。自分自身でも勘違いすることは多々ある。人間自身も完璧ではない、生成ＡＩも完璧ではない。
しかし、子どもの脳に悪影響を与えるということはどういうことなのかというと、生成ＡＩがサイコパスや毒親のような影響を及ぼす可能性があるからだ。
サイコパスの特徴とは、他人を操るために平気で噓をつくことである。サイコパスな人にお会いしたことがあるが、政治家やヤクザに多い印象がある。ちょっとした話が完全な嘘であることが多く、他人に良い印象を与えたいがために意味のない嘘をつくことが多い。
このような人に育てられた子どもというのは、メンタルに支障をきたしやすい。約束を守らなかったり恒常的に嘘をついたりする親とは、信頼関係を築くことが難しい。このようなことを考慮すると、生成ＡＩから出てくるハルシネーションというものが、子どもの発育に深刻な影響を与える可能性を懸念している。
しかも生成ＡＩというものは登場したばかりの技術であり、教育に使用されていない段階であり、子どもへの影響というのは未知数であり推測でしかない。
我々は３次元映像の研究をしてきた。当社ＣＥＯジェイソンが前の会社で３次元映像の研究をしており、その技術を当社で引き継いでいる形になっている。当時問題視されていたのが、３次元の映像というものを生成することが難しいことだった。約３０年前の３次元映像の技術というのは、右目と左目にそれぞれ異なる視差の映像を交互に見せることで、脳が擬似的に３次元を構築する技術である。この技術は３Ｄ映画を見る時に使用する赤と緑の眼鏡に同様の仕組みを採用している。ただ見ているものそのものは、平面画像である。私たちの脳が、３次元映像を作っていることでどういう影響を及ぼすかを懸念している。
当時の３次元映像の一部は手描きで作成されており、視差が不正確な場合もあった。その結果として、誤った３次元情報を認識する実験を行った猿では、現実空間での距離感覚に障害が生じたという研究結果がある。この研究では、間違った視差情報を与え続けた猿が、現実空間で３次元を正確に認識できなくなったことが報告されている。
この問題は、脳が誤った情報を基に３次元を合成することで生じる脳の「バグ」に起因している。このような技術的課題を背景に、当時の3次元映像研究は、誤差を排除し、正確な3次元生成を実現することを目標として進められた。我々のチームも、3次元映像を完全に機械生成で正確に作るための研究に取り組んだ。
これを踏まえ、私自身は生成ＡＩの「ハルシネーション」が発達途中の子どもの脳に悪影響を及ぼす可能性を懸念している。現在の勉強用ゲームのような単純に解答するものであれば良いのだが、会話しているような生成ＡＩ系の教材になってくると子どもの脳への影響は未知である。
さらに、集中力の問題も懸念される。短い動画や生成ＡＩを中心とした教育は、子どもの集中力を低下させる恐れがある。例えば、ＴｉｋＴｏｋのような短時間動画は、快感物質の分泌を引き起こし、依存症の原因になるという研究がある。このような環境で育つ子どもたちは、集中力が欠如し、長時間の学習に耐えられなくなる可能性がある。
教育現場で生成ＡＩや映像を補助的に使用することは有効だが、それが主軸になるのは危険である。特に、ＡＩを使った教材が広がる中で、子どもたちの発達や集中力にどのような影響があるのかについて、さらに研究が必要である。
大人でも、生成ＡＩはあまりおすすめしない。事実関係や信憑性を確認するスキルが欠けていると、生成ＡＩが提示する虚偽情報を鵜呑みにする危険性があるからだ。私自身も過去上司に恵まれず、サイコパスで嘘ばかりの上司に苦労した経験がある。その上司に比べれば、生成ＡＩはまだましだろう。しかし生成ＡＩの活用には、利用者自身の知性と判断力が求められることを認識しておくべきである。
ＩＴはもはや民間が軍事を超え、ＩＴ技術を制する者が世界を制すという国際マフィアと国際政治の世界。
深田萌絵メルマガ「世界とＩＴのヤバい話」では、日米中のニュースを中心に、ＩＴ起業家と元アナリストの視点から多角的に解説。
他にも、紙面ではなかなか取り上げられにくい幅広いお話ができればいいなと思っています。
よろしければ、ぜひご購読ください。
■ 深田萌絵ブログ
http://fukadamoe.blog.fc2.com/
■ X（旧：Ｔｗｉｔｔｅｒ）
https://twitter.com/Fukadamoe
■ Ｆａｃｅｂｏｏｋ
https://www.facebook.com/moe.fukada.35
■ youtube
https://www.youtube.com/channel/UCJD2JwJNPzi1qcLizxmxbJA
■ 深田萌絵note
https://note.com/fukadamoet