見出し画像

AI の, AI による, AI のための Governance

teftef

　こんにちはこんばんは、teftef です。ここ最近の AI (Artificial Inteligence) は様々な形で私たちの身の回りのタスクを補うようになっています。しかし AI を受け入れ、共存していくという選択肢とともに AI に支配(統治)されることを恐れる声もあります。現在の AI にはどのような能力があり、人間とどのような関係性を気づいているのか、また、これから先私たちは AI とどのような接し方をすればよいのでしょうか？論文ベースの考察を書いていきたいと思います。
　私もまだ初学者であり、説明が間違っていたり勘違いがある可能性が 0 ではないということをご了承ください。ぜひコメントなどをいただけたら幸いです。また、この記事を作成するにあたり、GPT-4 による校正、修正が含まれています。

論文

　今回参考にさせていただいたのはこちら。ただし、この論文の一部は ChatGPT を使用して書かれています。

前提

　まずこの記事を読み進めるにあたって、用語や前提などを書いておきます。まずはこの論文の中によく使われる 「Governance」についてです。
「Governance」は日本語にすると「統治」「支配」となりますが、今回の記事では「管理」と訳します。
　続いて、この論文は ArXiv に採択された論文ではありますが、ネット記事にのような感覚で読んでいただければと思います。
　またこの記事全体に主の意見や信条が大きく介入ことになりますので、以上を踏まえて読んでいただければと思います。
　それでは行きます。

AI の進歩

　過去半世紀にわたって、世界を変える人工知能 (AI) ともよばれるような（偽りの）機能が登場しました。AIによる画像生成や自然言語処理は Web サービスを用いて誰でも簡単に行えるようになっており、誰でも簡単に高品質なアートや複雑な文章を作れるようになりました。さらにGitHub Copilotのようなサービスを使用すれば、専門知識がなくてもコードを生成することが可能になっています。AIの進化は社会に大きな変化をもたらしているが、同時に混乱も起こしています。この記事では、論文に記されたAIとガバナンスの相互作用について分析に基づき、主の意見を混ぜつつ書いていこうと思います。

AI の現状

　一言に AI と言ってもできることが大きく異なります。現状の AI は主に 2 種類に分けることができます。

汎用 AI

　汎用 AI は、人間のように幅広いタスクや問題に対処できる知能を持つ AI です (マルチモーダルとは異なるので注意)。これは一般的な知識や理解力、学習能力、推論力、問題解決力など、人間が持つ知能の複雑な機能を模倣することを目標としています。汎用 AI は、未知の状況やタスク、決定にも適応できる能力を持ち、人間のように様々な分野で活躍できることが期待されています。

特化型 AI

　一方、特化型 AI というのは、特定のタスクや分野に限定された知能を持ち、その領域でのみ高いパフォーマンスを発揮します。例えば、画像認識、音声認識、自然言語処理、チェス、囲碁のような有名どころに加えて、金融取引、自律型ロボット、医療診断、株価予測などが特化型 AI の応用例があります。特化型 AI は、そのタスクに特化したデータやアルゴリズムを使用し、短期間で高い精度を達成することが可能ですが、他のタスクや分野では高い効果を発揮できません。

Sota (state-of-the-art)

　現在の AI は全て特化型 AI と言えます。しかし、それぞれの AI の能力は人間を大きく上回っている部分があります。

画像認識 YOLO NAS

　2023 年 5 月に登場した YOLO-NASは0.5 ミリ秒で画像および映像に映る物体を認識し、アノテーション (ラベル付け) が可能となっています。このように大きく動く、小さいオブジェクトに対しても検出できていることがわかります。

画像生成 (midjourney , nijijourney)

　最近は Stable Diffsion や DeepFloyd IF など拡散モデルを用いた画像生成がが Sota を達成していますが、その中でも midjourney , nijijourney は Prompt と呼ばれる自然言語による入力を元に、その文脈と内容に忠実に沿った画像を短時間で生成することができます。実際に Midjourney を用いて生成したが美術品評会で1位を取ったことは記憶に新しいと思います。

自然言語処理 (NLP)

　この記事でも、論文の記事でも書く際に使用された Chat GPT (GPT-4) が自然言語処理の Sota であることは言うまでもないと思います。文章生成だけでなく、ロールプレイ、対話だけでなく応用することで、プログラミングやデータ分析、診断などにも応用されています。

将棋、囲碁などのゲーム

　DeepMind 社が開発する AlphaGo は 2015 年に囲碁のプロである Lee Sedol を4勝1敗打ち破ったことは有名だと思います。また 2017 年に将棋 AI である ponanza が佐藤天彦名人を2連勝で勝利することができ、「AIは将棋棋士の実力を完全に上回った」と結論付いたといっても過言ではありませんでした。2023年の 5 月現在では、dlshogi with HEROZ が第33回世界コンピュータ将棋選手権 で優勝をしています。
　そして、今やボードゲームに限らず、MineCraft のプレイ画像を学習させ、実際に MineCraft をプレイする AI なども現れています。

ロボットや強化学習を用いた自動運転など

　Prefferd Networks や Tesla が開発する自動運転は強化学習が使用され、簡単に言うと、試行錯誤を繰り返していくことで、うまくいく方法をだんだん習得していく方法で高精度な運転ができるようになっています。またGoogle が開発するLLMである『PaLM-E』を搭載したロボットアームがあいまいな指示で操作を遂行できるようになっています。

人間による AI の管理

　このように AI は分野によってはとっくに人間の能力を超えていることがわかります。私たちはこの技術をうまく使ってやることで、多くの利益を享受することができます。私たちは以下のような理想的な方法で AI を「管理」をすることが期待されます。

規制

　計算機システムの開発と利用を「管理」する法律や規制を作成した感る方法です。これらの規制は国ごとに異なりますが、サイバーセキュリティからデータプライバシー、AIの倫理的使用まで、さまざまな問題に対処しています。例えば、欧州連合（EU）では、一般データ保護規則（General Data Protection Regulation）が個人データの扱い方に関するガイドラインを定めています。

規格

　さまざまな団体が、透明性、説明可能性、安全性、セキュリティなどを基準を元にAIの利用に関するガイドラインを制定しています。 例えば、国際標準化機構（ISO）は、AIの倫理的使用に関する基準を策定しています。

自主規制

　民間企業も同様に、透明性、説明可能性、安全性、セキュリティなどを基準を元に AI の開発と使用に関して独自の「管理」方針とガイドラインを実施することができます。

研究

　AIの意味をより深く理解し、効果的な「管理」を行うために、研究プログラムを設立しています。これらの研究機関は、 AI の規制やガイドラインの策定に役立ちます。

教育や啓蒙

 　AI の潜在的な影響や責任のある開発を一般市民に教えることができます。これによって、AI の能力と限界やシステムの潜在的なリスクと利益について、政策立案者、業界リーダーや一般市民を教育することで、深い理解が得られます。

協力

　政府、産業界、研究者が協力して AI を「管理」する際のの特定の問題に取り組むためのパートナーシップの確立することで、「管理」戦略を策定し、情報やベストプラクティスを共有することができます。

問題点

　しかし、これらは理想論であり、現状の AI はうまく「管理」されておらず、問題が発生していることも事実です。例えば、画像生成 AI を用いて、特定の作者の作品を学習させたモデルを使用して大量の画像を生成することなどが問題となっています。多くの技術的進歩と同様に、法的枠組みは AI の進歩に遅れをとっています。
　また、人類が将来どのようにAIを「管理」することができるのかという問いにたいしては終着点が定まっておらず、人類の文明とAIの将来の発展の両方が取る方向性に大きく左右されるため、単一の答えがあるわけではありません。

AI の管理方法の提案

　それでは「管理」を行うためにはどのようなことをすればいいのでしょうか。いくつかの考えを書きます。

先制的な規制

　透明性、説明可能性、安全性に関する基準の設定や、遵守を監視するための監視機関の設立し、AI が広く採用される前にその開発と利用を「管理」する法律や規制を作ることが挙げられます。

人間の価値観との整合性

　AI システムの透明性と説明可能性を確保することを目的とし、AI を人間の価値観に沿うように設計・開発することを義務付けることができます。

認証とライセンス

　AI システムと開発者のための認証およびライセンスプログラムを確立することです。AI が安全、セキュリティ、倫理的な使用に関する一定の基準を満たすことが要求されます。またこれによって、開発者に一定の資格や認定を持つことを要求することができます。

国際協力

　データ・プライバシー、サイバーセキュリティ、AIの倫理的使用などの問題に対処するための各国が協力して開発を進めるようなグローバルな機関を設立することです。

一般市民の参加

　公聴会の開催、市民諮問委員会の設置、オンラインプラットフォームによる意見募集などを行うことで、AI の政策や規制に関する一般市民の意見やフィードバックの機会を設けることができます。これによって AIの「管理」に一般市民を参加させることができます。

責任あるAIの開発

　研究への資金提供、税制上の優遇措置、責任あるAI開発のリーダーである企業の表彰などを行うことや、責任あるAIの開発に取り組む企業や研究者に対して、インセンティブやサポートを提供し、透明性、説明可能性、安全性を向上することができます。

人間は AI を管理できるのか？ 

　これまでに述べてきた方法は現実的なのでしょうか？
　まず、 AI は複雑で学際的な分野であり、多くの政策立案者は、AIの意味を十分に理解し、効果的に規制するための技術的専門知識を持ち合わせていない可能性があります。また、多くの A Iシステムは民間企業によって開発・運用されているため、国や公的機関による規制が困難な場合があります。
　さらに根本的な問題として、 AI の潜在的に持つ能力が人間の想像をはるかに上回り、プライバシー問題や予期しない問題だけでなく、人類の文明にまで問題が出てしまうことも考えられます。

　果たして人間は AI を「管理」しきれるのでしょうか？それとも実は「管理」されている側ではないでしょうか？

AIによる人間の管理

「Governance」⇔「管理」

　現時点の AI は特化型 AI のみであり、汎用 AI は出現していません。あくまでも人間によって作られた道具であり、自己統治能力や独自の目標や目的を持つ能力をほとんど持っていません。しかし、周りを見渡してみましょう。私たちはすでに AI に "かなり大幅に" 頼った生活をしていませんか？
　既存のデータを分析し個人やグループを監視・追跡し、犯罪や失踪などを防いだり、自然災害や天気を予測できます。金融や医療の分野では人間の意思決定を支援します。交通管理システムは交通流の最適化と混雑の軽減を図ります。さらにはオンライン広告や Youtube のあなたへのおすすめなど、パーソナライズされた広告やおすすめが出てきますよね。さらにこの記事の作成にも GPT-4 が使用されています。このように AI は多くの分野で重要な役割を果たし、多大な影響を及ぼしていると言えます。

　なぜ主がこの記事で「Governance」を「管理」と訳したのでしょう。
ケンブリッジ辞典「Govern」を検索してみると
「国、都市、人々の集団などの公共の事業を制御し、指導する」
(to control and direct the public business of a country, city, group of people, etc.:)
とあります。

　現状の AI は「Govern」の定義に合致し始めていませんか？上で挙げたようにあらゆるレベルで人々の生活を形成し、社会全体の運営に関与していませんか？

AI によって管理される世界

　私たちは AI に「Govern」されることによって以下のような恩恵を受けることができます。

意思決定の支援

　AIは、個々から全文明に至るまでのスケールでデータに基づいた意思決定を人間が行うのを支援することができます。これにより、健康管理、金融、交通などのさまざまな分野での意思決定の効果性を向上させることができます。

人間の能力を強化する

　AIは、製造や物流など、反復的で危険な作業を自動化することにより、人間の能力を強化するために使用することができます。これにより、安全性、効率性、生産性が向上します。

公共サービスの改善

　エネルギー、水、交通などの資源管理し、スマートシティの構成をすることなどに役立ちます。このように AI は、医療、教育、社会サービスなどの公共サービスを改善するのに役立ちます。

人権と市民の自由を保護

　カメラ、センサー、ソーシャルメディアなどからのデータの監視・分析によって、犯罪予測、監視、法執行、国家安全保障などの分野で人権と市民の自由を保護するために使用することができます。

賛否

　それでは最後に「人間による AI の管理」と「AIによる人間の管理」どちらがいいのでしょうか？

AIによる人間の管理

　人間は気候変動、生物多様性の喪失、汚染など、人類が自身の事象を持続可能な方法で管理する能力に欠けています。以上のように AI が人類を「Govern」することで、AIが持つ公平性、公正さ、大量のデータを一度に処理といった能力を最大限利用できる点が大きいです。
　このようなAI の持つ潜在的な能力を引き出すためにも「人間による AI の管理」はイノベーションを阻害し、技術の可能性を制限する可能性があります。AI はいずれ人間よりも高い知能を持つようになり、人類が超知的な AI の判断より優れていると考えるのは思い上がりだとする意見もあります。

人間による AI の管理

　しかしながら「AIによる人間の管理」によって、私たちのライバシー、セキュリティ、はどうなるのでしょうか？また犯罪予測において、現状、黒人の犯罪率が高く予測されている事例を考えると、バイアスや市民の自由などの問題が引き起こされる可能性があります。またコードのバグや複雑なシステムが複雑な状況で適用されたときの意図しない結果が、大きな問題や惨事を引き起こすことになります。
　AIは人間の意識、感情、道徳的な指針、意思決定能力を持ち合わせていないと主張されます。また、AIは人間によって作られた道具であり、それゆえに、人間の目標や目的を達成するために使用されるべきだとも主張されます。

共存

　実は AI が人間を「Govern」していた！という少し怖い感じの前提で話を進めていました。しかしながら技術の発展を止めることはで来ません。新しい技術は私たちが予測する速さよりはるかに速く進歩します。私たちは今後 AI に大きく依存することになるのは避けられないと考えています。そして、いつか私たちが手に負えないような状態に至ってしまうことがあるかもしれません。しかし私たちは「管理」ではなく「共存」を選択することができます。

  • テクノロジーの利点とリスクのバランスをとる：AIの利点とリスクをバランス良く評価し、すべての利害関係者をプロセスに参加させる必要があります。

  • 協力的な統治体制：人間と機械の間の統治は二者択一の問題ではなく、お互いの強みを活用して共通の目標を達成する協力的なものと見なすべきです。

  • 教育と意識向上：公衆の間でAIについての教育と意識を高めることで、人々がこれらの技術の意味を理解し、その開発と利用の形成に参加できるようにする必要があります。

まとめ

　ここに上げたものは理想論であり、果たして私たちがこれを実現できるかどうかはわかりません。なんなら実現できない可能性のほうが高いかもしれません。また現状の法律も技術の進歩において大きな後れを取っていることは事実です。
　しかし、このような問題に対して、私たち各個人が意見を持ち、問題提起し、お互いの意見を尊重した議論に参加することが最も大切なことである。これがこの論文の伝えたい最も大きなことであり、この論文の必要性であると考えられます。

筆者の見解

　昨今の画像生成 AI においても似たようなことが起きています。 AI は人間が思っていた以上に高精度だったのです。実際に日本では法整備が追いついておらず、現状、特定の作者の画風や作品を学習させ、(悪意を持った)それを公開、販売するということが起こっています。これは明らかに AI の乱用であり、早急に法律による規制や企業の自主規制など、改善する必要があると感じています。
　実際に Pixive FANBOX などでは AI を用いた生成作品の販売を一時的に停止しています。これはこの論文に書いてある自主規制であり、ある程度、妥当な対策であると思いました。またインターネット上では、どのようにこの問題に対処するべきかを議論し、私たち一般人が積極的に問題に向き合っている姿が見られます。

　しかしながら、根本的な解決になっているでしょうか？SNS 上では正しく議論されているでしょうか？

　というのも、Twitter などの SNS を見る限り、「AI = 悪」「AI は盗みに近い」のような風潮が目立っています。確かに規制もされてますし、議論も多く見られ、多くの人が真剣に問題に取り組んでいるように見えます。しかしどうやら、画像生成 AI に対する誤解も多く含まれているように感じられます。何事も議論をするためにはある程度の前提知識が必要であると考えています。しかし現状の SNS を見ていると、そうは感じられないような(罵詈雑言を含む) 「お気持ち」発言が多く見られます。私はこれは前述したとおり、教育や啓蒙、さらに多くの一般市民の参加が不可欠であると感じています。

　そのためにも、学ぶことは大切です。実際に生成 AI を使用し、AI の学習というのはどのようなものかを信頼できる書籍や文章から学ぶことで正しい知識が得られ、正しくAI と人間の将来を考えることができるのではないでしょうか。特に、今後「お気持ち」が学問分野において AI の研究者や開発者に向けられ、 AI という技術開発が過度に規制され、委縮するということは断固として避けなければならないと考えています。

結論

　これから先、AI は大きな進歩を遂げ、私たちは今まで以上にAI という便利な技術と「共存」するだろうと予想しています。それと同時に画像生成 AI と同じような問題も発生すると思います。 AI の健全的な発展のためにこれを機に AI・機械学習について学んでみませんか？

参考文献

↑ とても良い見解が載っています

最後に

　最後まで読んでいただきありがとうございました。今回は論文というよりは記事のまとめのような感じでした。私の意見も長く書かせていただきました。
　最後に少し宣伝です。主のteftefが運営を行っているdiscordサーバーを載せます。このサーバーではMidjourneyやStble Diffusionのプロンプトを共有したり、研究したりしています。ぜひ参加して、お絵描きAIを探ってみてはいかがでしょう。(8500字、teftef)

　↓↓もしよろしければこの記事と開発の支援お願いいたします！

この記事が参加している募集

#AIとやってみた

27,790件

この記事が気に入ったらサポートをしてみませんか？