YouTubeのAIがBAN判定を誤る理由

　昨今のコロナウイルスの流行によって、製造業や店舗運営の商売に留まらず、ネット上のサービスも大きな影響を受けている。その中の一つがGoogle傘下の動画共有・配信サービス『YouTube』だ。
　現在、感染拡大のリスクを避けるため社屋常駐のスタッフが減らされたYouTubeでは、AIアルゴリズムと人間の双方で行ってきた動画の審査関係の業務をAIに一任する形となっている。しかし、このAIの判定によって、適切な内容を流している筈の動画やライブ配信までも差し止められる状況が発生しているのである。
　これまで流しても大丈夫だった配信が唐突に停止させられたり、一部の機能を使用できなくなることは、チャンネルを作成しコンテンツを配信しているユーザーにとって非常に深刻な問題である。特に配信を収益化しているユーザーにとっては死活に関わる事態であり、早急な解決が求められている。しかし、社屋に人を集められない状況が続いていることもあってか、依然として誤検出によるトラブルは多発している。問題が長期化すればYouTubeのプラットフォームとしての価値が失われ、多くのユーザーが離れていく恐れもあり、まったく気の抜けない状態である。

AIによる『片輪走行』がもたらした誤BAN

　では、どうしてYouTubeはこのような状況になってしまったのだろうか。考えられる理由は多々あるが、うち一つにAIアルゴリズムによる検出への依存が強過ぎることが挙げられる。

　日々YouTubeにアップロードされる動画は膨大であり、その一つ一つに手作業でチェックを入れることは難しい。また、ライブ配信については事後ではなく配信中のチェックを行わなければならない。こういった理由から、全体の振り分けにAIを適用すること自体は必要である。
　しかし、振り分けた結果が適切かどうかについては、人間から見て正確と表現できる領域には達していない。平時のYouTubeがそうしていたように、機械的な採点だけでなく、人間の視点や感性を踏まえたチェックも挟む必要がある。

　たとえば画像を分析して採点させる場合を考えてみよう。AIは画像の色の分布やグラデーション、輪郭に基づく形状などを調べ、基準と照らし合わせている。裸の人物がいるかどうかをチェックするのなら、画像内の肌色の割合や人の体と推測できる形を探し出そうとする。実際に裸体を映している動画であれば、このやり方で拾い上げることができるだろう。
　しかしながら、実際には裸体が映っていないのにそうと見える映像が少なからず引っ掛かる。太陽に照らされた砂漠、高くそびえる赤土の谷など、人間の目では明らかに違うとわかるものも、色の加減や岩の輪郭が機械を惑わし誤認させる。その結果、センシティブな要素など何もない筈の動画が、成人向けコンテンツと認定されてしまうのである。
　ただ、後詰めに人間のスタッフが控えていれば、こうした誤認は撤回することができる。採点結果をもとにAIが通告してきたコンテンツを、スタッフが改めて判断する。その数は当然多いだろうが、少なくとも振り分けを挟んだ分マシにはなっているだろう。

　このようにAIに仕事の負荷を減らさせ、処理できる量を人間で捌くという仕掛けは、正しく回っていれば非常に効率的である。人間だけでは行えず、機械任せでも不適切になる難しいシステムとも言える。両輪が揃って初めて信頼性と効率性の両方が保証されるのである。
　YouTubeが瀕している状況は、この仕掛けの機能不全によってもたらされている。最終チェックが機能せず、AIの採点のみで判断を行う状態は、当然作業の誤りに直結してしまう。結果、今までは差し止めや制限を受けていなかった配信者が、誤BANの被害を受けることとなった。現在もYouTube側は誤った審査内容について逐次対応を進めているが、人間のチェックを挟んだ業務体制に戻らない限り、この状況は改善しないだろう。

AIの扱いの難しさ

　人間が集まり作業できない環境において、機械による作業の代替は必須である。これは動画や音楽を分析し判別するAIに留まらず、全ての業務において言えることである。
　ただし、機械の精度を過信した用い方をしてしまうと、大きな失敗につながる恐れがある。機械が間違わない、失敗しないなどというのは勘違いでしかないし、人間のその時々の都合に合わせられるほど柔軟でもない。彼らに与えられた論理が間違っていれば間違った解答を出すし、与えられたデータに問題があれば必ず何らかの問題として表出するものだ。