ChatGPTで改めて重要性を増す「責任ある研究とイノベーション（RRI）」
米国の新興企業、OpenAIが開発したChatGPT（チャットGPT）が議論を巻き起こしている。プロンプトと呼ばれる入力欄に、好きなように質問を入力すると、人間さながらの文章力で饒舌な回答を返してくれる。その品質は、少なくとも文章の構成力や言い回しという点では、人間が書いたものと遜色のない出来である。しかも、「200字以内で」「これこれの条件のもとで」など、複雑な要求にも対応してくれる。
その完成度は多くの人々の注目を集め、これをビジネスに活用していくべきだという人もいれば、誤情報の拡散、セキュリティへの懸念、教育上の扱いなどから懸念の声も多く上がっている。実際に、イタリアではChatGPTが一時禁止され、カナダ、英国、米国でも政府が調査や注意喚起等を行っている。
ChatGPTは、コンピューターの歴史上、重要な飛躍的イノベーションの一つであることは間違いないだろう。そしてそれは、近年議論され、推進されてきた「責任ある研究とイノベーション」（RRI）の観点からも、大きな課題を提示している。
「責任ある研究とイノベーション」とは
「責任ある研究とイノベーション」（RRI: Responsible Research and Innovation）は、「研究・イノベーションを社会的な価値、必要性、期待とすり合わせる継続的なプロセス」（Gerber et al. 2020）であり、オープンなプロセスの中で、多様なステークホルダーとの対話を重視しながらイノベーションを進めて行くべきとする考え方である。
従来から推進されてきたELSI（Ethical, Legal, Social Implication: 科学技術の倫理的・法的・社会的側面）の流れを汲むもので、欧州の科学技術政策Horizon 2020で重要な概念として提示されたものであり、そのエッセンスは、open-up questions（議論をたくさんの利害関係者に対して開く）、mutual discussion（相互議論を展開する）、new institutionalization（議論をもとに新しい制度化を考える）ことである（藤垣 2017）。
そして、これを実現していくためには、4つの観点、すなわち予見的(anticipation)／反射性(reflexivity)／包摂性(inclusion)／呼応性(responsiveness) が必要であるとされる（Stilgoe et al. 2013）。つまり、研究やイノベーションがもたらす影響をあらかじめ予見し、そうした予見をもとに取り組みに反映させ、そして多様な人々の意見を考慮し、そうした声に意味のある応答を行っていく、あるいはそのような態度を持つということであろう。
RRIを欠いた結果：トロントのスマートシティ
こうしたRRIが必要である例の一つは、スマートシティの取り組みであろう。以前にもアカウンタビリティの観点から取り上げたことがあるが、グーグル社（アルファベット）が行っていたトロントのスマートシティの挫折は、こうしたRRIの観点を持っていれば避けられたかもしれない。
スマートシティの取り組みは、人流の計測、交通制御、自動運転車、配達ロボット、エネルギー管理など、多種多様なサービスの集合体となる。そこに関わるステークホルダーは、それらのサービスを契約する直接のユーザーには留まらない。そこに住む住民や、就労者、訪問者も、大きな影響を受ける可能性がある（下図）。
こうしたサービスでは、データは誰のものか？誰がデータにアクセスできるか？誰がこれらのサービスのステークホルダーか？誰がこれらのサービスを監視し、コントロールするか？といった疑問に応える必要がある。このような問いを考えていくための良いガイドとなるのが、RRIである。
参加のプロセスをどうマネージメントしていくか
こうしたRRIの考え方を実際に導入する際に最も課題となるのは、どのように多様なステークホルダーの参加と包摂性を実現していくのか、それをどのように開発のプロセスに反映していけばよいのかという点であろう。
こうした参加のプロセスを考える際に、最も参考になるのは自治体の計画策定への参加であろう。都市計画や総合計画はステークホルダーの幅が広く、また具体的な土地利用や道路計画とも関係しているため、具体的な利害にも関わる。そのため、参加プロセスの研究には長い研究と実践の蓄積がある。
以前スマートシティのアカウンタビリティに関する考察の際にも参照したが、誰もが参加できる自由な討論の場としての「フォーラム」、そしてフォーマルな決定につながる意思形成を行う「アリーナ」、そして決定に不服がある場合に申し立てを行い、紛争解決の場となる「コート」の3つの場を有機的に連携させることがその要諦である。これをRRIの観点に援用したのが以下の図である。
まず、自由な情報交流の場である「フォーラム」の段階では、対象となる領域の設定、そして自由なコミュニケーションの場、そして仕組みや生じうる影響について学ぶプロセスが必要となる。対話型AIの場合も、その仕組み（とりわけデータがどのように収集、保存され、分析に供されるのか等）や影響について学ぶことが重要であろう。
そして、意思形成の場である「アリーナ」では、具体的な開発主体と、ステークホルダーを明確化し、何を決めるのかを決め、それに従って意思決定に反映していくことになる。公的、あるいは共同規制としてのガイドラインを作成するのか、開発計画に対する提言書や要望書を出すのか、行政に対して規制の策定あるいは撤廃を求めるのか、といったことである。
そして異議申し立ての場である「コート」では、実際にどのように開発が進み、サービスが展開されているかをモニタリングし、決めたガイドライン等から逸脱している場合には、再度検討を求めるといった取り組みが必要である。
今からでも遅くない、参加型プロセス
さて、このようにオープンに、ステークホルダーへの影響を考慮しながら研究やイノベーションを行うべきだとするRRIが主張されている中で、突如として表れたのがChatGPTである。
ChatGPTの開発プロセスにおいて、RRIの考え方を導入することはできるだろうか。あるいは、導入していたら、現在のようなスピードでChatGPTは提供されていただろうか。
国際的な開発競争の中で、イノベーションのプロセスを透明にし、参加型にしていくことには課題も多い。しかし、AIの進歩はまだ始まったばかりだとすれば、今、そのプロセスを始めるのも遅くはないのではないだろうか。
＝＝
参考文献
Alexander Gerber, Ellen-Marie Forsberg, Clare Shelley-Egan, Rosa Arias, Stephanie Daimer, Gordon Dalton, Ana Belén Cristóbal, Marion Dreyer, Erich Griessler, Ralf Lindner, Gema Revuelta, Andrea Riccio & Norbert Steinhaus (2020) Joint declaration on mainstreaming RRI across Horizon Europe, Journal of Responsible Innovation, 7:3, 708-711, DOI: 10.1080/23299460.2020.1764837
藤垣裕子（2017）連載エッセイVol.122 「責任ある研究とイノベーション」
Stilgoe, Jack, Richard Owen, and Phil Macnaghten. 2013. "Developing a Framework for Responsible Innovation." Research Policy 42 (9): 1568-1580. doi:10.1016/j.respol.2013.05.008.
この記事が気に入ったらサポートをしてみませんか？