【AIニュース】英語解説を日本語で読む【2023年5月2日｜@BBC News】

「AIの創始者」とも呼ばれるジェフリー・ヒントン氏が、AIが人間よりも賢くなる可能性に危機感を覚え、Googleの役職を辞任したことが明らかになりました。彼のニューラルネットワークと深層学習に関する先駆的な研究は、GoogleのBardチャットボットやMicrosoftのChatGPTなど現在のAIシステムの基盤となっています。しかし、ヒントン氏はニューヨーク・タイムズに対して声明を出し、今では自分の研究を後悔していると述べ、Googleを辞めることになったと語りました。
公開日：2023年5月2日
※動画を再生してから読むのがオススメです。

---

The man widely seen as the godfather of artificial intelligence has quit his job at Google, warning of the dangers of AI.

人工知能の名付け親と広く見られている人物が、Googleの仕事を辞め、AIの危険性を警告しています。

Dr. Jeffrey Hinton's pioneering research on deep learning and neural networks has paved the way for current AI systems like ChatGPT.

ジェフリー・ヒントン博士は、ディープラーニングとニューラルネットワークに関する先駆的な研究により、ChatGPTのような現在のAIシステムへの道を切り開きました。

But in a lengthy interview with the New York Times, Dr. Hinton said he now regretted his work and is worried that AI technology will flood the internet with misinformation.

しかし、ニューヨークタイムズとの長いインタビューの中で、ヒントン博士は、今では自分の仕事を後悔しており、AI技術が誤った情報でインターネットを氾濫させることを懸念していると述べています。

Google responded in a statement saying we remain committed to a responsible approach to AI.

これに対してGoogleは、我々はAIに対する責任あるアプローチに引き続きコミットしていると声明で回答しています。

Dr. Hinton has been telling the BBC how these systems can know so much.

ヒントン博士はBBCの取材に対し、これらのシステムがいかに多くのことを知ることができるかを語っている。

The kind of intelligence we're developing is very different from the intelligence we have.

私たちが開発している知能の種類は、私たちが持っている知能とはまったく異なります。

We're biological systems, and these are digital systems.

私たちは生物学的なシステムであり、これらはデジタル・システムです。

And the big difference is that with digital systems, you have many copies of the same set of weights, the same model of the world.

大きな違いは、デジタルシステムでは、同じ重みのセット、同じ世界のモデルのコピーが多数存在することです。

And all these copies can learn separately, but share their knowledge instantly.

そして、これらのコピーは別々に学習することができますが、その知識を瞬時に共有することができます。

So it's as if you had 10,000 people and whenever one person learned something, everybody automatically knew it.

つまり、1万人の人がいて、ある人が何かを学ぶと、全員が自動的にそれを知ることができるようなものです。

And that's how these chats can know so much more than any one person.

そうして、このチャットは一人の人間よりもずっと多くのことを知ることができるのです。

Well, Dr. Hinton also told the BBC the rate of progress is worrying.

さて、ヒントン博士はBBCの取材に対し、進歩の速さが心配だとも語っている。

Right now, what we're seeing is things like GPT-4 eclipses a person in the amount of general knowledge it has, and eclipses them by a long way.

今、私たちが見ているのは、GPT-4のようなものが、一般的な知識の量において、人を大きく食ってしまうことです。

In terms of reasoning, it's not as good, but it does already do simple reasoning.

推論という点では、劣りますが、すでに簡単な推論はできるようになっています。

And given the rate of progress, we expect things to get better quite fast.

そして、進歩の速度を考えると、かなり早く良くなることが予想されます。

So we need to worry about that.

だから、それを心配する必要があるのです。

Right now, they're not more intelligent than us as far as I can tell.

今のところ、私が知る限りでは、彼らは私たちよりも知的ではありません。

But I think they soon may be.

でも、もうすぐそうなるかもしれませんね。

Well, earlier I spoke to Junaid Mubeen, author of Mathematical Intelligence, I asked what he makes of the AI warning.

さて、以前、『Mathematical Intelligence』の著者であるJunaid Mubeen氏に話を聞き、AIへの警告をどう考えるか聞いてみました。

I think this one is to be taken seriously because of where it's coming from.

この警告は、どこから来たのか、真剣に受け止めるべきものだと思います。

I wouldn't take Elon Musk's own warnings particularly seriously because he's not an AI expert.

イーロン・マスクの警告は、AIの専門家ではないので、特に深刻に受け止める必要はないでしょう。

Geoffrey Hinton, on the other hand, is one of the pioneers of artificial intelligence.

一方、ジェフリー・ヒントンは、人工知能のパイオニアの一人です。

And he's also been very specific in laying out a hierarchy of risks and concerns.

彼は、リスクと懸念の階層を非常に具体的に示しています。

And so he mentions the threats that AI pose to the workforce and to the spread of misinformation.

そして、AIが労働力にもたらす脅威や、誤報の拡散について言及しています。

But the concerns that he's raised around existential risk I think are to be taken seriously.

しかし、彼が提起した実存的リスクに関する懸念は、真剣に受け止めるべきものだと思います。

And I think it's important to recognize that those risks are not premised on AI becoming conscious or gaining sentience.

そして、こうしたリスクは、AIが意識を持ち、感覚を獲得することを前提にしているわけではないことを認識することが重要だと思います。

We're not talking about a Terminator Doom Day scenario.

ターミネーターの「破滅の日」のようなシナリオを話しているのではありません。

But it's the idea that these technologies are able to amass information and process information so effectively that if you put them in the hands of bad human actors, they can wreak all kinds of havoc.

しかし、これらのテクノロジーは、情報を蓄積し、情報を効果的に処理することができるため、悪い人間の手に渡れば、あらゆる種類の大混乱を引き起こす可能性があるということです。

And I think that is something we all need to pay attention to.

これは、私たち全員が注意を払わなければならないことだと思います。

So tell us a bit more about that because he referred, didn't he, to bad actors who would use AI for bad things.

というのも、彼はAIを悪事に利用する悪質な行為者について言及しましたね。

So tell us a bit more about what you think he means by that.

その意味するところをもう少し詳しく教えてください。

So I think one of the challenges with these chatbots is we don't fundamentally understand how they work.

チャットボットの課題の1つは、その仕組みを根本的に理解していないことだと思います。

We know that they absorb large amounts of information and then you can input a prompt and it will give you an output.

大量の情報を吸収し、プロンプトを入力するとアウトプットを出してくれることは知っています。

It might write an essay for you.

例えば、エッセイを書いてくれるかもしれません。

It might generate an image or a video.

画像や動画を生成することもできます。

And so the challenge is that as these systems become more complex, we can issue them with certain tasks.

そこで課題となるのが、システムがより複雑になるにつれて、特定のタスクを与えることができるようになることです。

So I might ask a chatbot to go online and find the cheapest train ticket for me.

例えば、チャットボットに「ネットで一番安い電車の切符を探してきて」と頼むかもしれません。

And I might give it access to my bank account and it will be able to carry out that task and the stakes there seem fairly low.

そして、私の銀行口座にアクセスできるようにすれば、そのタスクを実行することができます。この場合の賭け金は、かなり低いように思えます。

But you can imagine in a different context where the stakes are a lot higher, these systems might be weaponized to carry out a whole range of tasks, and they will execute those tasks in ways that we don't fully understand.

しかし、もっと利害関係の大きい別の文脈では、こうしたシステムが兵器化されてさまざまなタスクを実行する可能性があり、私たちが十分に理解していない方法でタスクを実行することになるでしょう。

And I think the concern that people at Jeffrey Intern have is that there could be unintended consequences.

そして、ジェフリー・インターンの人々が懸念するのは、意図しない結果が生じる可能性があるということです。

These systems behave in ways that are very different to humans.

これらのシステムは、人間とはまったく異なる方法で行動します。

So there's no real account for how they will go about achieving their objectives.

そのため、システムがどのように目的を達成するのか、本当の意味で説明することはできません。

And especially if those objectives are rooted in some kind of malicious intent.

特に、その目的がある種の悪意に根ざしている場合は、なおさらです。

So if an authoritarian leader, for example, says to a chatbot system, help me to reassert my grip on a population, there's no real knowing how a very complex computer-based system would go about achieving that.

例えば、権威主義的な指導者がチャットボットシステムに「住民を再び支配するのを手伝ってくれ」と言ったとしても、非常に複雑なコンピュータベースのシステムがどのようにその目的を達成するのか、本当のところはわかりません。

What kinds of manipulations it might imply?

どのような操作を行うのでしょうか？

And so the lack of transparency is something that we really need to be concerned about.

透明性の欠如は、私たちが本当に心配しなければならないことなのです。

A couple of months ago, more than a thousand tech leaders called for a six-month moratorium on the development of new AI systems because of what they said was the tech proposing a profound risk to society and humanity.

数カ月前、1000人以上の技術指導者が、新しいAIシステムの開発を6カ月間モラトリアムするよう呼びかけました。その理由は、この技術が社会と人類に重大なリスクをもたらすというものでした。

I mean, is it too late?

つまり、もう手遅れなのでしょうか？

It may well be.

そうかもしれません。

I think we have to adopt some spirit of optimism and recognize that we do have a huge degree of human intelligence as well.

しかし、私たちは楽観的な精神を持ち、人間の知性もまた巨大なものであることを認識する必要があると思います。

And now more than ever, we need to summon that.

そして、今こそ、それを呼び起こす必要があるのです。

And one thing that Jeffrey Hinton does emphasize is that digital intelligence, the kind espoused by these chatbots, is very different to human intelligence.

ジェフリー・ヒントンが強調しているのは、チャットボットのようなデジタルインテリジェンスは、人間のインテリジェンスとは大きく異なるということです。

And that may present an opportunity for us to tap into our own human strengths and understand how we can behave and cooperate with one another in ways that might allow us to regulate these technologies and rein them in.

そして、このことは、私たちが人間の強みを生かし、これらのテクノロジーを規制し、抑制することができるような方法で、私たちがどのように振る舞い、互いに協力し合うことができるかを理解する機会を与えてくれるかもしれません。

But I will say Jeffrey Hinton has been working on these technologies for several decades.

しかし、ジェフリー・ヒントンは数十年にわたってこれらの技術に取り組んできたと言えるでしょう。

There are many within the space that have been issuing these warnings for several years.

この分野には、数年前からこうした警告を発している人がたくさんいます。

So his own warning does seem to be coming quite late in the day.

ですから、彼自身の警告は、かなり遅きに失した感があります。

And there is a sense that maybe the genie is out of the bottle now and there's no real accounting for what happens next.

この先何が起こるかわからない、魔の手が伸びたような感覚です。