ジェマ・ガルドン・クラヴェル：テクノロジー界の監査システム（究極のチェンジメーカー #10）
Gemma Galdon-Clavell - Eticas（スペイン・2020年選出）
「究極のチェンジメーカー」シリーズについて
私たちアショカは世界最大の社会起業家ネットワークです。1980年創立以来、アショカ基準の社会起業家を発掘しており、2021年までに世界90カ国以上で約3,800人を「アショカ・フェロー」として選出してきました。彼らは、社会にある問題の表面的な応急処置ではなく、それらの歪みを生み出している水面下の仕組みそのものを変えています。この連載では、社会を大きく変えている、「究極のチェンジメーカー」の名にふさわしいアショカ・フェローを一人ずつ紹介していきます！
ジェマ・ガルドン・クラヴェルは、AI（人工知能）などのデジタル化システムを監査するためのモデルを開発し、普及させました。これは、公認会計士の会計監査に類似し、倫理基準を保全して公益を担保するためのものです。現在、彼女は「デジタル倫理」という新しい分野で世界を牽引する人物とされ、主要国の政府に対し、監査を利用する企業の増加や、他分野への監査要求の必要性を説得してきました。
祖父母から受け継いだ不信感
彼女がこうした役割を担うまでの道のりは、ありふれたものではありません。ジェマは幼い頃からデータ収集に不信感を抱いて育ちました。彼女の祖父母は1939年に当時のスペイン軍人の独裁者であったフランシスコ・フランコから逃れるためにピレネー山脈を徒歩で横断してスペインを脱出します。その後、1960年代にバルセロナに戻りますが、ジェマの祖父は政治体制の政敵リストに載っていたため、フランコが町に来るたびに「念のため」という理由で投獄されていました。こうした背景から「リストというものに不信感を抱いて育った」とジェマは述べます。「その後、リストとはつまりデータベースだと気づき、データベースに不信感を抱くようになりました。だから私はテクノロジーの倫理に関する問題に取り組んでいるのです。今構築されているインフラでは、投獄される必要のない善良な人々が刑務所に入る日が来るかもしれないことを意味するのですから。」
社会正義の分野でキャリアを築きたいと考えた彼女は、20代の時に、公正で民主的、かつ持続可能な未来の構築をミッションとするトランスナショナル・インスティテュートの研究員として働きます。ここで彼女は、アジアおよびラテンアメリカの各国政府と社会問題に関して協議を重ねました。これは当時の若いジェマにとっては刺激的な経験でしたが、彼女は「多忙に動き回ったが、熟考していなかった」と振り返ります。「飛行機で世界を飛び回り、様々な国の大統領に会って、物事を変えるのは本当に面白かったんです。しかし、もはや自分がやっていることの意義が分からなくなった時、この仕事を辞めようと決心しました。」
その後彼女は、都市部におけるビデオ監視と取り締まりに関する公共政策の研究を経て、2012年、自らのアイデアと仕事の拠点としてEticasを設立しました。Eticasは設立以来、公的サービス、ヘルスケア、金融、政府、教育、サイバーセキュリティなどの分野で、「デジタル倫理」と信頼できるAI（人工知能）への需要を急速に生み出しています。
「ジェマ・ガルドン氏にとって、セキュリティとデータの交差点に位置するあるべき未来とは、テクノロジーが人類の直面する真の社会問題に貢献する未来です。 テクノロジーを開発する理由や、データを使ってなし得ることを理解せず、無批判にテクノロジーを開発することのない未来なのです。」
バイアスを自動で検知する仕組み
アルゴリズムを設計する際、人種、ジェンダー、国籍など、人間が持っているバイアスが反映されることで、一部の人が不公平に扱われることをアルゴリズム・バイアスと言います。ジェマは、このアルゴリズム・バイアスを自動的に検出・修正するAIである「Algorithmic Audit Framework（アルゴリズム監査の枠組み）」を設計しました。この技術は、企業などのユーザーが意思決定に使用するAIシステムに対して実施するEticasの自動監査（一部、人によるチェックも含む）の基礎となっています。アルゴリズムが誤った判断や差別的な判断を下すと、企業は事業や法令、規制関連のコストにおいてリスクを負うことになるため、こうした監査は貴重なリスク軽減ツールとなります。これらの懸念に技術的に対処することで、デジタル監査の範囲を広げ、AIは公共の利益に奉仕すべきであるという倫理観の構築に成功しています。
Eticasはまた、バルセロナ市議会、米州開発銀行、欧州委員会など、戦略に関わる公的機関や国際金融機関のAIシステムに対するコンサルティングも行っています。例えば、Eticasは米州開発銀行のアルゴリズム監査を行っており、同行が融資するプロジェクトの倫理性・公平性を評価する手助けをしています。
Eticasを追随する企業たちが、ジェマのやり方を利用してパートナー企業を監査するケースが早くも増えており、このモデルの普及は加速しています。またEticasは、学者、政治家、テクノロジー企業、業界団体とのネットワークを構築し、「デジタル倫理」に関する意識を高めて議論を盛り上げ、最終的には政策に影響を与えようとしています。
差別のない、倫理的なテクノロジーを
しかしこのままでは、世界で急速に増殖し、目に見えないアルゴリズムを高い信頼性で読み取ることのできる、ジェマが開発したようなAIベースの監査ツールに頼らなければ、政策が立ちいかなくなります。
「私たちは構築する情報や技術のインフラについて熟考することが必要です。これまで大切にしてきたことをすべて失ってしまうことも考えられるのです」とGammaは言います。「これは日々の仕事で感じていることです。基本的人権や公民権に関する議論や戦いでは、法律と公の議論という面で勝利を納めてきました。しかし、アルゴリズムによる差別や、倫理に反する意思決定方法の構築などを見ると、技術面では敗北の道を歩んでいます。私たちはテクノロジーを十分に理解しておらず、社会にとってブラックボックスになってしまっているため、誰もテクノロジーを監査することができないのです。」
ジェマは、独裁に抵抗していた祖父母と、デジタル時代の中で脅かされる権利を守るという自分の使命との間に、直接的なつながりを見出しています。「これは、平等、平和、正義に貢献する技術インフラの構築を支えていく私なりの方法でもあります。」
「Galdon-Clavellの技術は、AIによるアルゴリズムがいかに「バイアス診断」ツールとして使われてきたかを浮き彫りにすると同時に、目的意識を持つことで、同じ技術を逆手に取ってポジティブな成果を社会にもたらすことができることを示しています。」
もっと知る
アショカの全ての活動は、共鳴してくださる方々の寄付金で実現しています。少額でもとても励みになりますので、ぜひご支援のほどよろしくお願いいたします。