AIは意外と冷たいのだ

先日スタエフで、当社のAI専門家の尾澤と話をしました。

stand.fm

#89～#91でAIに関するあれこれを話しています。

まあ、ほとんど雑談に近い内容です。

その中で、お！これは！と思ったことがタイトルにある事実です。

なんとAIは「答しか教えてくれない！！」のだそうです。

なぜその答になったのか、どういうロジックでその答に到達したのか、その時に、どういった苦労があったのかなどなどは、一切語ってくれないのです。（まあ、苦労はしないだろうけど）

「結果はこれだよ」だけ。冷たいねー。

スタエフの収録とどちらが先だったか覚えていないのですが、将棋の渡辺名人（三冠）がYouTubeでAIについて語っていらっしゃる動画を拝見しました。

冒頭で、「AIは、なぜその答えを出したかは教えてくれない」と、仰っています。動画をすべてご覧いただけれは、いろいろ腑に落ちます。

将棋の場合は、その局面における最善の指し手を出してくれる。

もちろん、次善の指し手、その次の候補の手なども示してくれる。

ただし、なぜその手が最善なのかは、教えてくれないのです。

それを考えるのは、人間の仕事だとも仰っています。

AIに関してほとんど知識がない私にとっては、なんか不思議な感覚です。

答は出すけど、その理由は教えてくれない。

冷たいなー。

これから、様々な業種、業態にAIが導入されていきます。

AIはその場面での最適解は示してくれますが、なぜそれが正解なのかは教えてくれないのです。

それを、我々人類は積極的に導入しようとしているのです。

なんか、こわくないですか？

私だけ？