米上院民主主導の超党派AIフォーラム：シリコンバレー巨人、安全と革新の瀬戸際で誓約
昨日開催された、米上院民主超党派非公開フォーラムに関する記事がでましたのでまとめます。
犬猿の仲、マスク氏とザッカーバーグ氏が共に出席するという事で一触即発はあるのか、また、および超党派と言う事でTwitterアカウントを凍結されていたトランプ氏もマスク氏のXになってから解放され、参加するのかと予測した昨日のNoteに反して何事もなく執り行われたようです。
（昨日のNoteはこちら↓）
この会合は、タイタニック号の沈没や真珠湾攻撃、ウォーターゲート事件に関する公聴会が行われたケネディ・コーカスルームで開かれました。
ヨーロッパがAI規制の法整備を進める中、アメリカもようやく動き出しました。ホワイトハウスと議会がAIの安全対策に注力し始め、テック業界のリーダーたちを招いて開かれました。この非公開のセッションでは、テクノロジー企業のトップが冒頭で声明を読み、シューマー氏が進行する議論に参加する形で行われました。シューマー氏は、議会内でのテクノロジー知識の不足を認め、シリコンバレーのリーダーや学者、公共団体から技術について教えてもらうつもりだと述べました。
ホワイトハウスと上院司法小委員会の動き
ホワイトハウスは今年中にAIに関する大統領令を発表する予定で、すでに複数のテック企業の幹部と会合を重ねています。今週、総計15社がAIツールに対する自主的な安全・セキュリティ基準に同意したと発表されました。
先週、上院司法小委員会では、マイクロソフトの社長とNvidiaの主席科学者が出席してAI法制についての公聴会が開かれました。また、コネチカット州の民主党員リチャード・ブルーメンタール氏とミズーリ州の共和党員ジョシュ・ホーリー氏が、AIを監督する独立した機関の設立や、技術に対するライセンス要件と安全基準を求めるAI法制の枠組みを発表しました。
「AIは非常に複雑で専門的なため、議会が直面する最も困難な問題です」とシューマー氏はインタビューで語りました。
ビッグテックの重鎮、AIの未来への積極的な関与をワシントンで示す
参加者メンバーは、イーロン・マスク氏、Googleのサンダー・ピチャイ氏、メタのマーク・ザッカーバーグ氏、マイクロソフト創設者のビル・ゲイツ氏、OpenAIのサム・アルトマン氏、マイクロソフトCEOのサティア・ナデラ
氏、そしてNvidiaのジェンセン・フアン氏など。AI界の重鎮が一同に介したこの会合は、AIの未来に対する積極的な関与をアメリカ政府に対して示した異例の場でした。
ビッグテック重鎮、アメリカがAIのリーダーであるべきだという意見は一致
会合が上院ビルのケネディ・コーカスルームで開かれた後、OpenAIのサム・アルトマン氏は「私たちは皆、AIを正しく進めるという共通の目的を持っている」と述べました。
Googleのスンダー・ピチャイ氏はこの会合を「有意義なもの」と評し、政府が「革新と適切な安全対策のバランスを取る必要がある」と強調しました。
イーロン・マスク氏は、自身のAIプロジェクトを推進する一方で、一部のAIシステムの開発を一時停止するよう呼びかけており、リスクについて最も声高に警告しました。「もし文明が崩壊すれば、すべてが不確かになる」と彼は述べました。さらに、「非常に賢いAIが登場したら、中国共産党は中国を支配できなくなる」とも指摘しています。
ザッカーバーグ氏、AIのオープンソース化を主張
出席した経営者の多くは、変革的かつリスクのある影響を持つAIに対する規制の必要性に同意していました。しかし、意見の不一致もありました。メタのマーク・ザッカーバーグ氏は、AIのソースコードが一般に公開されているオープンソース研究と開発を強調しました。「オープンソースは、これらのツールへのアクセスを民主化し、イノベーションを促進する」と彼は述べました。
一方で、AIスタートアップAnthropicのジャック・クラーク氏やビル・ゲイツ氏は、オープンソースAIがセキュリティリスクを引き起こす可能性があると懸念を示しました。Anthropic、Google、OpenAIは、オープンソースが安全対策をすり抜けてデマや有害な情報を拡散する可能性があると指摘しています。
METAのLlama 2はオープンソースではない？
ザッカーバーグ氏は、Meta（以前のFacebook）は大規模な言語モデル「Llama 2」をリリースしそれをオープンソースだと主張していますが、このLlama 2のライセンスには、Open Source Initiative（OSI）が定義する「オープンソース」に合致しない制限がいくつか含まれています。
具体的には、Llama 2を他の言語モデルのトレーニングに使用することを禁止しており、また、月間ユーザーが7億人以上のアプリやサービスでモデルを使用する場合は、Metaから特別なライセンスが必要です。これらの制限により、Llama 2は真の意味でのオープンソースではありません。
OSIは、このライセンス条件を批判し、「オープンソースの定義に適合していない」と述べています。また、OSIはMetaに対して、制限のない使用が可能なより寛容なライセンスでLlama 2をリリースするよう呼びかけています。
下記の記事参照↓
自動運転のテスラの死亡事故にはイーロンだんまり
取材陣の一人によると、カリフォルニア大学バークレー校の研究者デボラ・ラジ氏は、エロン・マスク氏に対してAIを用いた自動運転車、特にテスラのオートパイロット技術の安全性に疑問を呈しました。この技術は、一部の運転手の死亡事故後に厳しい評価を受けています。
マスク氏は、この質問に対しては何も答えなかったと、同じく取材陣が報告しています。
一部の議員たちは非公開の会合に批判的
一部の議員たちは、非公開の会合に批判的でした。
「なぜ報道陣がこの会合から締め出されたのか、理解に苦しむ」と、マサチューセッツ州の民主党上院議員エリザベス・ウォーレン氏は会合を出た後に語りました。「多くの人々が言っているのは、『イノベーションは大事だが、安全も確保しなければならない』ということです。」
ホーリー氏は、議員たちがテクノロジー企業に過度な注目をしていると指摘しました。
「これは金飾り時代以来の最大の独占企業の集まりで、公開でなく、本格的な公聴会で行われていないのは残念だ」と彼は述べました。
シューマー氏は、今後の会合はおそらく公開されるだろうとし、労働組合や市民団体からテクノロジー企業の批評家をいくつか招いていたと明らかにしました。最初の会合は、誰もが報道陣にパフォーマンスをすることなく、素直な意見交換ができるようにと、非公開にされたと彼は説明しました。
ニューヨークタイムスのこの記事のコメント欄
ヤフコメ見たいに自由に投稿できるのですが、100通余り寄せられた意見で肯定的な意見が1件もありませんでした。以下抜粋して共有します。
AI企業で働いています。基本的にCEOたちが規制の草案を作成しているというのは危険信号だ。それは寡占を強化し、新規プレイヤーの参加を妨げることになるだろう。
ニューヨーク州ホワイトプレーンズ
素晴らしいアイデアです。キツネが鶏小屋を守っています。そして、議会を鶏小屋と呼ぶことで、私は親切になっているのです。
フロリダ
これらの CEO の多くは、貪欲に突き動かされたひたむきな起業家です。米国議会がパブリックドメインにおけるアルゴリズムの力を制限することに真剣に取り組んでいるのであれば、ガイドラインを作成するために学者からなる広範な委員会を設置すべきである。委員会のメンバーは、アルゴリズムを開発している企業に相談すべきではなかった。つまり、おそらく学術界で資金の役割が小さいヨーロッパやアジアから採用されることになるだろう。
直流
数時間の間、それが単一の部屋に世界の富が最も集中していたことをAIが認識するのは必要ありません。70億人の運命を左右するであろう20人。それは文明としての私たちについて何を物語るのでしょうか?
オーランド
この記事が気に入ったらサポートをしてみませんか？