生成AIの開発・利活用ガイドライン作成にトレーサビリティの考え方がヒントになるのでは、という話

生成AIによるコンテンツが増加する

生成AIは広く活用され、APIを通じてさまざまなアプリに実装されている。判断や予測を行う従来のAIに加え、生成分野でも大きな貢献が期待されている。
ChatGPTやStable Diffusionを試してみて、正確性等の面で問題がないわけではないが意図して粗を探そうと思って頭を使わなければ見逃してしまうほどレベルの高いものを生成することができると理解している。
生成AIは今後ますます浸透し、生成AIを使用して作り出したコンテンツの割合はいっそう増加する。すぐに個人レベルだけでなく、社会レベルでも影響を与えるようになるだろう。

生成AIの開発・利活用に関する論点は多い

一方で生成AIが出力する情報の正しさの保証や利活用方法、あるいは生成AIの開発または更新のために投入される学習データに関する権利保護やエシックスに関するガイドラインはまだ十分に整備されていない。
事実、クリエーターによる生成AI企業への訴訟などが起きているし、技術先行の状態が続いているように思える。生成AIに関する開発から利用、更新、終了までのライフサイクル全体に関して検討すべき論点は多岐にわたり、網羅的な整理ができていないのが現状だろう。

重要な分野でトレーサビリティが導入されている

トレーサビリティは、問題発生時に原因を特定し対策を講じるために設けられている。トレーサビリティの実装や保証には費用対効果や技術的な困難があり、ステークホルダーが多ければその合意形成をするのも大変なのでどんな分野でも実装できるというものではないが、重要な領域には実装されていると理解している。

食品や医療のトレーサビリティ

食品分野はトレーサビリティが確立されている一つの例である。食品トレーサビリティ制度は、原材料の生産段階から製品が消費者に届くまでの過程を追跡・管理する。これにより食品の安全性が確保され、事故や不正が発生した場合には原因究明や対処の高速化が可能となる。2000年代の欧州における狂牛病問題が食品トレーサビリティ制度導入のきっかけの一つとなり導入された。日本では牛トレーサビリティ法、米トレーサビリティ法、食品衛生法、ＪＡＳ法などにより定義されている。
医療も同様にトレーサビリティ制度が確立されている。医療品質・安全性の向上や患者の安全確保、医療流通の効率化を主な目的として、医療用医薬品や医療用機器のトレーサビリティを確保する試みがされている。改正薬機法などにより定義されている。
どちらも人命に直結するという点で重要だろう。

企業データのデータリネージュ

法的な定めはないと理解しているが、企業が生成したデータについて来歴管理をするという動きがある。データリネージュというが、データ分析やインサイトに基づく意思決定がトレンドになるにつれて、その大元であるデータ品質向上の面で重要性を増してきた活動である。
よく同じようなテーブルがたくさんあってどれを正としたらよいかわからないとか、同じデータについて話しているはずなのに部門で話がかみ合わないとかいうことが起こっている。これでは分析結果が正しいかわからないし、分析結果に基づく意思決定を過つ可能性が高まるので、データの生成、加工、移動、使用の経路を透明化することが求められるようになっている。
企業の存続に関わるという点で重要である。

生成AIモデルのトレーサビリティの検討を応用できるのではないか

生成AIが社会実装されて多くの情報を生み出すようになると、人々がその情報に触れる機会も増える。毎日生成AIの生み出す情報に触れない日がないくらいになり、食品や医療と同じくらい身近なものになる。おそらく意識することもないくらいにありふれていて、それでいて重要であるという意味で生成AIの扱いは食品や医療と共通する部分があると思う。そう考えてみると、多岐にわたる生成AIの開発・利活用に関する論点の整理に食品や医療にて取り組んできた事例が応用できるのではないか。
例えば人がよく口にする牛肉の生産過程では、どこで生まれて、誰が生産者で、どのような飼料を与えて、どこに出荷されたのかといった情報が記録される。こういった取り組みをすることで、消費者である人間にとっての安全性を確保しようとしている。同様に、AIモデルについても誰がどんな目的で構想したのか、どんなデータを食ったのか、誰向けに公開されたのかといったトレーサビリティを高めることで安全性を確保できるのではと思える。
生成AIの作成から利活用、終了まで安全性を高める検討や論点の洗い出しに関し、食品や医療でトレーサビリティについて検討し導入してきた業界の知見を適用することで生成AIの開発・活用ガイドライン作成に有益な情報やアプローチが発見できるのではないか。