メディアエンタメ企業における、生成AI活用の"失敗"事例

2023年9月18日 17:29

以前執筆した「大手メディア企業の生成AI活用事例」では、主にテキスト・音声メディア企業による生成AIの活用方法をまとめました。
世の中全体でChatGPTをはじめとする生成AIへの理解が進み、メディアエンタメ業界においても国内外で様々な試行錯誤が行われています。数字として顕著な成果を上げている事例が多数出てきている一方、ハルシネーションや面白みのない文章など、生成AI特有の課題に悩まされている企業も多いと推察されます。

新しい取り組みを始める時、他社の成功事例を参考に戦略を作ることは非常に重要です。それと同時に、失敗事例を研究することで同じ轍を踏まないよう戦略の精度を一層高めることができます。そこで、本記事ではメディアとエンターテインメント業界における生成AI活用の"失敗"事例とそこから得られる示唆をまとめていきます。

なおここでいう"失敗"は、生成AIを使用したことで「ブランドイメージが毀損された」ことと定義します。例えば、「AIが生成した誤情報を含む記事を公開してしまい、SNSで炎上した」「クリエイターへの配慮を行っていない状態でAIが生成した画像を使用してしまい、ファンから批判された」などが該当します。一方、内部的な仮説検証における失敗、例えば「特定の仮説を検証するために内部で生成AIを使用したが、期待した成果が得られなかった」などは本記事の対象外としています。

本記事で取り上げる失敗事例

【記事制作】

G/O Media - Gizmode - io9
G/O Media - The A.V. Club
Gannette - Columbus Dispatch
The Irish Times
CNET
The Arena Group

【画像生成】

Disney - Marvel's Secret Invasion
Bloomsbury Pub Plc USA - House of Earth and Blood

【プラットフォーム】

Amazon - Kindle
Microsoft - MSN

AI活用に向けた示唆

AIポリシーの現場浸透を徹底

生成AIが持つハルシネーション(幻覚問題)などのリスクへの理解が広がり、多くのメディアが生成AI利用ポリシーの策定を進めています。ほとんどの企業が「AIが生成した記事は人間によるファクトチェックや編集」を義務付けていますが、トップダウンで定めた規則が現場レベルまで浸透していないことが多くあるようです。本記事では、Gannetteが運営するColumbus Dispatchの例などがわかりやすい例でしょう(詳細後述)。

対策として、社内トレーニングの定期的な実施が考えられます。生成AIの活用可能性やリスクを理解するためのワークショップを通じて、自社のAIポリシーを現場レベルまで浸透させることができます。また、AIの進化スピードを考えると、利用方法はトップダウンで定めるのではなく現場からボトムアップで試行錯誤して開発することが必要になってきます。社内トレーニングは、そのボトムアップ活動を奨励する機会にもなります。実際、CNETやUSA TODAY、Financial Times、MediaHuisなどはAIに関する社内研修の実施を宣言しています。

パートナーのAI利用実態を把握

寄稿や転載など、記事を執筆するパートナーがAIをどのように利用しているのか把握することも非常に重要です。パートナーコンテンツがAI利用により批判された場合、自社メディアのブランドが毀損されるリスクがあります。それを防ぐために、自社のポリシーに準じていない場合はその旨をコミュニケーションする必要も出てきます。本記事では、Microsoftが運営するMSNやAmazonのKindleが良い例でしょう(詳細後述)。

大手メディアだと、Financial Timesが「外部パートナーも含め、生成AIツールの使用は記録」すると宣言しています。

画像生成AIはクリエイター配慮が必須

本質的には言語生成AIでも同様ですが、画像は特にクリエイター保護の世論が強い印象があります。MidjourneyやStable Diffusionなどの画像生成AIは、インターネット上の画像を大量に学習して精度の高い生成モデルを構築しています。当然クリエイターからの許諾は取っておらず、著作権侵害が問題視されています。日本でも、有名イラストレーターがAIを使用した作品を販売している"疑惑"があるだけで大炎上しています(Yahoo News)。本記事では、DisneyやBoomsburyの事例が当てはまります(詳細後述)。

対策としては、AdobeやShutterstockなどが提供する、権利関係がクリアな素材のみで訓練された生成AIツールのみ利用するということが考えられます。これらの企業は、素材の利用状況に応じてオリジナルのクリエイターへ収益を還元するプログラムを発表しています(Business insider)。

G/O Media - Gizmode

Gizmodoは、最新テクノロジーやガジェットに関するニュースを扱うテクノロジーメディアです。G/O Mediaが運営しており、アメリカ合衆国以外にも日本を含む10 か国で展開されています。

同メディアはSFセクションである"io9"で、AIが生成し人間が一切関わっていない記事"A Chronological List of Star Wars Movies & TV Shows"を公開しました(Business Insider)。歴代のStarwars作品を時系列に沿って紹介する記事ですが、最新作が入っていなかったり肝心の時系列が間違っているなど、品質に疑問符がつく内容でした(現在は修正済み)。クレジットは「Gizmode bot」となっています。

G/O Media - The A.V. Club

The A.V. Clubは、アメリカのエンターテイメント系メディアです。映画、音楽、テレビ、書籍、ゲームなどの速報、レビュー、インタビューなどを掲載しています。G/O Mediaが運営しています。

同メディアは、AIが生成した最新の映画情報に関する記事を複数公開しています。その中に、IMDBという映像作品に関するオンラインデータベースの情報をそのままコピペしている記事が含まれています(Futurism)。 G/O MediaはIMDBからライセンスを購入しているため法的には問題ありませんが、生成を期待して使用しているAIがそのまま他社ソースをコピペしてしまうという現象も起こるようです。

Gannette - Columbus Dispatch

The Columbus Dispatch はオハイオ州コロンバスに拠点を置く日刊新聞で、1871年7月1日に最初の号が発行された歴史あるメディアです。現在はGannette社が運営しています。

同メディアは、地元で開催されている高校生サッカーの試合に関する記事をLadeAIというAIで生成し、数十本公開しました。その記事はロボットによる無味乾燥なスタイル、選手名の未記載、適切でない試合描写など様々な問題点があり批判に晒されました(Axios)。その結果、同社はLadeAIが生成した全ての記事を人力で修正しています(Futurism)。

同社のAIポリシーには、「AIが生成したコンテンツは、報道で使用する前に、正確性と事実性を検証しなければならない」と記載されています。Axios社が「LadeAIが生成した記事を人間の編集者がパブリッシュ前に確認したか」と問い合わせたところ、Gannetteから返事がなかったといいます。これは、トップダウンで定めたAIポリシーが現場まで浸透していなかった事例と言えるでしょう(Axios)。

なおこの件を受けて、同社はLadeAIを使用していたThe Tennessean, AZ Central, The Courier Journalなど複数の傘下メディアで、AIが生成した記事を非公開にしました。

The Irish Times

The Irish Times は、アイルランドのダブリンに本社を置く日刊新聞です。1859年3月29日に創刊され、1999年にはオンライン版の発行を開始しました。

同メディアで掲載された「Irish women’s obsession with fake tan is problematic」という記事は、ダブリン北部に住むAcosta-Cortezという29歳エクアドル人女性によって執筆されました。The Irish Timesの編集者によると、この記事を提供した人物と何度もやり取りを行い、編集の提案やエピソードの紹介、関連する研究へのリンクなどを記事に記載した上でパブリッシュしたそうです。掲載後、読者から著者の名前と写真が本物か疑う声が上がり調査をした結果、なんとAcosta-Cortezさんは仮想の人物で、記事の本文や画像の多くに生成AIが使用されていたことが判明したそうです(Gizmode)。

CNET

CNETは、生成AIを一番最初に記事制作に活用しパブリッシュしたメディアです。2022年11月には、CNET Moneyの編集チームが「複利とは何か」「銀行口座無しで小切手を現金化する方法」などの基礎的なトピックについて、社内の独自AIを使用した記事を77本公開しました。

最初に編集者がストーリーのアウトラインを作成し、それに沿ってAIが本文を生成し掲載したそうです。結果、複利計算の間違いや社名の不備、曖昧すぎる表現など基礎的な誤りが発見され批判の声が上がりました。その後、人間の編集者が記事を修正し再投稿しています。同社は、これらの取り組みから学んだエッセンスをAIポリシーとして公開し、今後も生成AI活用に前向きに取り組んでいくことを宣言しています。

The Arena Group

The Arena Groupは、スポーツからファイナンス、ライフスタイルまで幅広いジャンルのメディアを265個運営する企業です。同社はコンテンツ生成AIツール企業であるJasper、デジタルコンテンツのパブリッシュプロセスを効率化するSaaSを提供するNotaの2社と提携し、AIを積極的にワークフローへ取り入れています。

同社が運営するメディアであるMensJournal.comにて公開された、「What All Men Should Know About Low Testosterone」という記事には少なくても18の不正確な情報と虚偽が発見されています(Daily Beast)。これは、同社がフィットネスに関する社内の独自コンテンツを学習させたカスタムチャットボットを使用して自動生成した記事です。この記事の誤りは医学的な内容に関わるものだったので、批判がとても大きかったようです(Futurism)。

Disney - Marvel's Secret Invasion

Disney+で配信中の「Marvel's Secret Invasion」オープニングには、AIが生成した画像が使用されています。これが、ソーシャルメディアで大きな物議を醸しました(Futurism)。

ハリウッドでは生成AIの利用禁止を訴えて俳優団体や脚本家団体によるストライキが起こるなど、AIへのアレルギー反応が強く出ています。また、マーベルスタジオで働くアニメーターやVFXクリエイターは過酷な環境に置かれています(The Guardian)。そのような中、AIが生成した画像をオープニングとはいえ作品に使用したことは、マーベルファンにとって大きなショックだったのかもしれません。

Bloomsbury Pub Plc USA - House of Earth and Blood

Bloomsbury Pub Plc USA は、1986年に設立されたイギリスの独立系出版社です。同社は、Sarah J. Maasが執筆した小説『House of Earth and Blood UK版』の表紙にAdobe StockからライセンスしたAIによる生成画像を使用し、アーティストやファンから批判されています。

批判のポイントは二つです。
●資金力がある大手出版社なのにAIイラストを使うことは、AIが人間から仕事を奪うことを助長する動きである
●Adobeの独自AI画像生成ツールであるFireFlyと違い、Adobe Stockに載っているAI画像は学習データの著作権が保護されていない

Amazon - Kindle

Kindleは言わずとしれた電子書籍プラットフォームで、一般人でも比較的簡単に自分の本をパブリッシュすることができます。その結果、AIが生成した低品質書籍が多数で出回っています。AI生成書籍のカテゴリーも、旅行から料理、プログラミング、ガーデニング、ビジネス、工芸、医学、宗教、数学、そして自己啓発書まで幅広いようです(Futurism)。

例えば、ハワイのマウイ島で起きた山火事を題材にしたAI生成本「炎と怒り:2023年マウイ島の物語と気候変動への影響」はベストセラーリストに入りました。ところが、本文の書体がバラバラだったり不要な空白ページがあるなど品質は最悪でした(Futurism)。Amazonは同書籍をすぐ削除した後、著者に対してAIを利用している場合は事前に通知することを義務付けました(Federal News Network)。

Microsoft - MSN

MSNはMicrosoftが運営するポータルサイトです。他社メディアの記事をピックアップして掲載する他、自社でも記事を編集しています。

同社は、元NBA選手ブランドン・ハンターの死を「Useless（役立たず）」と表現した明らかな誤植が含まれる記事を掲載しました。この記事は「レーストラック」というメディアによって投稿されましたが、同メディアの記事は意味不明なものが多く、AIによる自動運用サイトである可能性が高いです(Futurism)。他社メディアの記事掲載の基準だけでなく、MSNによる自社記事でも問題が発生しています。同社が執筆した「Headed to Ottawa? Here's what you shouldn't miss!」という記事は、カナダのオタワを紹介しています。そこで、困窮者に食事を提供するフードバンクがお勧めの観光地として掲載されていました。これを受けて、MSNは「本記事は、生成AIではなく人間のコンテンツ編集者によるミス」と声明を発表しました。ただ、MSNでの低品質記事は本件以外にも多数存在しています。それら全てがコンテンツ編集者によるミスだというのは、言い訳として少し厳しいかもしれません(Business Insider)。

同社は、2020年にMSNに掲載されるコンテンツを選定するジャーナリストチームを解雇しAIへ置き換えています(Verge)。

Liquid Studioについて

Liquid Studioは、メディアエンタメ業界に特化した併走型コンサルティングスタジオです。生成AIなどの先端テクノロジーに強みを持ち、ビジネスと技術の両面からハンズオンでご支援致します。これまで、大手新聞社やデジタルニュースメディア、エンタメ系スタートアップ、雑誌社など多数の企業様に対し、社内セミナーや技術導入、戦略提案、オペレーション構築など多角的な支援を提供してきました。
HP: https://www.liquidstudio.biz/

この記事が気に入ったらサポートをしてみませんか？