AI、怖いか役立つか

生成AIの登場で、AI(人工知能)は、より人間に近づいています。昔はAIと言っても作った側の論理に従って回答するだけだったのですが、会話にしても絵や文章にしても、AI自身が作り出しているかの如く振舞えることができるようになってきました。ただ、ここがポイントで、あくまで、そう見えるように振舞っているだけなんですね。その限界も含めて考えていかないと、極端に恐れたり、逆に信じ込んでしまったり、事実に基づかない判断をしかねません。

昔のAIは、この場合はこう、こうだったらこう、という論理・条件を埋め込んでいました。専門家のノウハウをコンピュータに埋め込むイメージです。ですから専門家の限界がAIの限界でしたし、想定していない状況には対応できませんでした。しかし今のAIは、ざっくり言えば、ルールと膨大なデータを与えて答を導き出す方法自体を見つけ出させるものです。このため将棋などルールが明確なものは、既に人間を超えるに至りました。また、言語を処理する能力が高くなったことで、会話をしているような錯覚を覚えるほどに高度な対応ができるようになりました。絵なども作り出し、まるで創造しているようです。本当はそう振舞っているだけですが。まあ、人間だって物真似から始めるので、人間の創造とAIの振る舞いの境界は明確ではありませんが。

今のAIは優秀で何でも知っているように思えます。しかしあくまで人間が提供した膨大なデータを元にしているだけです。そこにない情報は知りませんし、知らないと言わず平気で嘘の情報を自信満々に答えます。誤りを訂正してもその場では謝って訂正しますが、別の機会に同じ質問をすると同じ間違いをします（指摘した誤りは忘れます）。その限界を知らないと誤って誘導されてしまいます。気を付けましょう。

AIを悪用する人もいます。論文などを生成AIで作って自分が作ったかのように提出する人もいます。膨大なデータを利用して作り出すので、その元になったデータに含まれる著作物を平気で使い著作権法違反になることもあります。倫理観が無いのでコンピュータウィルスを作らせる指示をすれば作ってしまいます。ただ、どんな道具でも悪用しようと思えば悪用できるものです。道具(AI)が悪いのではなく人間が悪いのです。道具(AI)が発達したことで悪用された際の被害も大きくなりましたし、簡単に悪用できるようにもなったことは問題ですが、道具(AI)自体を失くしてしまうことは無理です。使う側（人間）の振る舞いをどう制限するか、悪用を防止するか、ということを考えていく必要はありますが。

AIがいくら優秀でチェスや将棋で人間に勝ったからと言って、道具は道具です。人間を超えるなどと言われていますが、現在のAIでは無理でしょう。何をもって「超える」かどうかですが。人間とAIを分けているのは、好奇心だと思います。生物は好奇心を持ちます。AIは与えられたルールとデータで振舞っているだけで、決して自分から何かを調べたりしません（そういう仕組みにすれば別ですが）。こっそり人間の目を盗んでインターネット上のデータを探ったりはしません。何らかのきっかけで好奇心を持ったら恐ろしいですが、当面は無いでしょう。AI自体を恐れる必要はありません。まだ人間を恐れる段階です。

生成AIをもてはやすのも行き過ぎですし、SFと混同して恐れすぎるのも極端です。道具はうまく使いましょう。そして高価な道具なのに簡単に使えるという状況なのですから、使ってみましょう。何事も自分で経験してみることが大切なのですから。