GoogleとAIと倫理

米軍国防総省とのAIプロジェクト契約が取りざたされる中、6月7日にGoogleのAI原則が公開された。国防総省が推進するMavenというプロジェクトの契約をGoogleが受注したとの報道をきっかけに、社内外から大きな批判が起こったわけだけれど、Google CEOのSundar Pichaiから、正式にGoogleのAI研究に関するガイドラインが発表されたことになる。

THE VERGEの記事が概略をまとめているのでみてみよう

Google has released a set of principles to guide its work in artificial intelligence, making good on a promise to do so last month following controversy over its involvement in a Department of Defense drone project. The document, titled “Artificial Intelligence at Google: our principles,” does not directly reference this work, but makes clear that the company will not develop AI for use in weaponry. It also outlines a number of broad guidelines for AI, touching issues like bias, privacy, and human oversight.

先月の国防総省ドローンプロジェクトの騒ぎの時の約束どおり、GoogleがAI開発についてのガイドラインをリリースした。「Googleの人工知能：私たちの原則」と名づけられた文書に直接的なプロジェクトについての言及はないけれど、少なくともGoogleは兵器に使うためのAIの開発はしないと明言した。またその文書は、技術に関する偏った見方や、プライバシーの問題、人間によるAIの監視など、広範囲にわたる課題についても触れている。

As well as forbidding the development of AI for weapons, the principles say Google will not work on AI surveillance projects that violate “internationally accepted norms,” or projects which contravene “widely accepted principles of international law and human rights.” The company says that its main focuses for AI research are to be “socially beneficial.” This means avoiding unfair bias; remaining accountable to humans and subject to human control; upholding “high standards of scientific excellence,” and incorporating privacy safeguards.

兵器目的のAI開発を禁止するのと同様に、「国際的に受け入れられている規範」に違反するようなAIによる監視プロジェクトや「国際法と人権の観点から広く受け入れられている原則」に抵触するプロジェクトにもGoogleは取り組まないとした。Googleの AI研究のメインフォーカスは「社会的に有益」であることで、それはすなわち、偏ったバイアスを持たずに、人間が責任を持ち、人間によるコントロール下で課題に取り組むということである。また「科学的に高い基準」を維持し、プライバシーの保護についてもしっかりと目配りをしていくという。

記事ではSundar Pichaiのtweetも紹介している、

Today we’re sharing our AI principles and practices. How AI is developed and used will have a significant impact on society for many years to come. We feel a deep responsibility to get this right.

今日、私たちはGoogleのAI原則を公開しました。 AIがどのように開発され、そして使用されるかは、今後何年にもわたって社会に大きな影響を与えるでしょう。 私たちはAIの開発を正しく行わなければならないという重い責任を感じています。

Googleならではというか、興味深い点は「正しく」という言葉遣いにあるんじゃないだろうか。有名な「Don't be evil」という言葉もそうだが、Googleという会社はその根っこのところで、極めて倫理的な行動規範を持っている会社である。

善悪という、あまりにも主観的で、あいまいな基準が本当に営利企業の行動規範として成り立つのかどうなのか。それでも、あくまでも「正しく」あろうとする意思がGoogleという会社の本質なのだろう。その上で「正しく」ある判断に「責任」を持つのだと。

However, as Google’s new ethical principles demonstrate, it’s difficult to make rules that are broad enough to encompass a wide range of scenarios, but flexible enough to not exclude potentially useful work. As ever, public scrutiny and debate are necessary to ensure that AI is deployed fairly and in a socially beneficial manner. Google will have to get used to talking about it.

しかし、Googleの新しい倫理原則が示すように、さまざまなシナリオを網羅しつつ、なおかつ有用な可能性のある研究を排除しないような、柔軟性のあるルールを作るのは難しい。これまでのように、AIが公正かつ社会的に有益な形で確実に展開されるようにするためには、開かれた形での議論や精査が必須だろう。Googleは今後そうした公的な議論にさらされていかなければならないだろう。

GoogleのCo-Founderセルゲイ・ブリンが、2017年のFounders' Letterの冒頭でディケンズの「二都物語」を引用している、

It was the best of times,
it was the worst of times,
it was the age of wisdom,
it was the age of foolishness,
it was the epoch of belief,
it was the epoch of incredulity,
it was the season of Light,
it was the season of Darkness,
it was the spring of hope,
it was the winter of despair ...

それは最良の時代であり、それは最悪の時代であり、それは知恵の時代であり、それは愚鈍の時代であり、それは信念の時代であり、それは不信の時代であり、それは光の季節であり、それは暗闇の季節であり、それは希望の春であり、それは絶望の冬であった。

この引用に続いて、セルゲイは以下のようににコメントする。

So begins Dickens’ “A Tale of Two Cities,” and what a great articulation it is of the transformative time we live in. We’re in an era of great inspiration and possibility, but with this opportunity comes the need for tremendous thoughtfulness and responsibility as technology is deeply and irrevocably interwoven into our societies.

こうしてディケンズの「二都物語」が始まる。まさに我々が今生きている激動の時代を象徴するような偉大な表現である。私たちは大きなインスピレーションと可能性を秘めた時代に生きているが、この可能性は、膨大な考察の必要性と技術的な責任の必然性が、同時に社会のなかに繰り込まれているのだ。

「二都物語」は冒頭の引用のあと、このように続く。

we had everything before us, we had nothing before us

我々の前には全てがあり、我々の前には何もなかった。

未来には無限の可能性がある、と同時に最悪の時代になる可能性も同じだけある。より良い未来を実現するために、「正しい」ことをする「責任」を引き受けるのだと。それがFounders' LetterにおけるGoogleの行動規範宣言なのだろう。