ユヴァル・ノア・ハラリ：AIは人類を滅ぼすか？(5/5) - なぜAIが危険になりうるのか

知の巨人『サピエンス全史』のユヴァル・ノア・ハラリ氏が、AIの脅威について語る対談（2023年7月）の内容を、原文（英語の文字起こし）と共にご紹介します。

＜対談＞
ユヴァル・ノア・ハラリ：結局のところ、私の書くものの多くはそれ自体を疑っているのです。私はストーリーの危険性についてのストーリーを書いています。私は知性について書いていますが、知性の危険性を強調しています。結局のところ、人間の力は知性やストーリーからは生まれないと思うのです。人間の最も深く、最も優れた資質は、知性でもなく、物語でもなく、力でもないと思う。繰り返しになるが、私たちは力を持ち、協力し、知性を持ちながら、自分自身を破壊し、生態系の多くを破壊しようとしています。つまり、私たちの最高の資質はそこにはないのです。私たちの最高の資質は言葉以外のものです。思いやりのようなもの、内省から生まれるもので、内省は私の経験上、言葉にはなりません。言葉で自分を理解しようとしても、決して上手くいかない。言葉は必要ですが、深い洞察は言葉からは生まれません。ウィトゲンシュタイン、ブッダ、そしてそれ以前の多くの賢人たちも言っていたことなのです。これらは私たちが言わないでいることです。

レックス・フリードマン：しかし最終的には、作家としてそれを投影しなければならない。沈黙の内省を行いながら、それをページに投影しなければならない。

ユヴァル・ノア・ハラリ：ええ、それでも人々に警告しなければなりません。本の中で最も深い真実を見つけることはできません。言葉では決して見つからない。それを見つけることができるのは直接的な経験だけで、それは非言語的であり、言語以前のものです。

レックス・フリードマン：自分の心の静寂の中、そのどこかに。

ユヴァル・ノア・ハラリ：そうですね。

＜英語（対談の文字起こし）＞
Yuval Noah Harari: Ultimately, I think it goes back, much of my writing is suspicious of itself. I write stories about the danger of stories. I write about intelligence but highlighting the dangers of intelligence. Ultimately, I don't think that, in terms of power, human power comes from intelligence and from stories. But I think that the deepest and best qualities of humans are not intelligence and not storytelling and not power. Again, with all our power, with all our cooperation, with our intelligence, we are on the verge of destroying ourselves and destroying much of the ecosystem. Our best qualities are not there. Our best qualities are non-verbal. They come from things like compassion, from introspection, and introspection, from my experience, is not verbal. If you try to understand yourself with words, you will never succeed. There is a place where you need the words, but the deepest insights, they don't come from words, and you can't write about it. Again it’s goes back to Wittgenstein, to Buddha, to so many of these sages before that. These are the things we are silent about.

Lex Fridman: But eventually, you have to project it as a writer, you have to do the silent introspection but project it onto a page.

Yuval Noah Harari: Yes, but you still have to warn people. You will never find the deepest truth in a book. You will never find it in words. You can only find it in, I think, in direct experience, which is non-verbal, which is pre-verbal.

Lex Fridman: In the silence of your own mind, somewhere in there.

Yuval Noah Harari: Yes.