見出し画像

賢い企業がAI炎上を防ぐTIPS - 2024年4月版

しらいはかせ(AI研究/Hacker作家)

最近は大手日本企業（国際企業）向けの団体ワークショップなども‪開催しております。

SD黄色本「画像生成AI Stable Diffusion スタートガイド」を教科書として使いつつ、オンライン・クラウド利用で演習できる環境を提供しながら、短時間で集中して画像生成AIの技術を習得することができます。社内の意識向上や、他者に相談し辛いことも、ハカセが何なりとお答えします。

画像生成AIのワークショップとしては、プロンプト芸だけではなく、モデル、Stable Diffusionの内部理解、image2imageから、ControlNet、LoRAまでやります。

ところで、Civitaiでの野良モデルやLoRAについて、よく訊かれるので1枚でまとめておきました。 もちろんコンシューマーや趣味でを描く方々への配慮なども大切なのですが、それ以前のコンプライアンス面、ライセンス面での一番の問題はモデル公開者が権利そのものを「あとから変える権利」を持っていることかもしれないですね。Civitaiの運営方針も今年になって大きく変わってしまいました。クリエイター側への報酬をあとから追加することで様々な混乱がありました。

Q:Civitaiでのモデルダウンロード、ライセンス周りの確認は何をどう見れば？

A:こんな感じで右下にライセンスが表示されています。

このモデルは、以下のことをユーザに許可します：
🟢クリエイターのクレジットを入れずにモデルを使用する
❌️自分が生成した画像を販売する
❌️お金を払って画像を生成するサービス上で実行する
🟢Civitai上で実行する
🟢このモデルを使用したマージを共有する
❌️このモデルまたはこのモデルを使用したマージを販売する
🟢マージを共有する際に異なる権限を持つ

Civitai - Sora Ani2.5 XL | Anime & 2.5D での例
https://civitai.com/models/186535/sora-ani25-xl-or-anime-and-25d?modelVersionId=209446

一見、便利そうなんですが、実は…

このモデルに限らずなのですが、一見便利そうではありますが、このライセンスが「後で変更される可能性もある」のが最も難しいところだと思います。

認識違いなのか変更なのかわからなくなってしまいますので、使うと決めたらスクショしておく、作者のホームページやSNSなど素性を確認しておく、できればCivitaiのみで公開されているモデルだけでなく、HuggingFaceなどで複数公開されているモデルだと安全性が増すと考えます（wgetコマンドでダウンロードできる利点もあり）、作者と連絡が取れるならクローズに個別契約するのも大事かなと。VTuberやVocaloidのPさんと同じです。

「商用利用」の解釈が人によって異なるリスク

「商用利用」の解釈が人によって異なるのもリスクです（例：Bing Image Creator個人版は商用利用不可）。

書籍や動画等の商用メディアでの二次的利用や、インタラクティブ展示などで事業展開する場合はパートナー企業さんとこのあたりの情報やリスクをしっかりと握りながらすすめることをおすすめします（リスクの度合いや、大丈夫ラインは各社、各事業、各コンシューマー層で異なるので）

生成AI炎上を防ぐために賢い企業がやれること

なかなか業務的に仕事を進めていると、ビジネスモデルや営業的な利益が先行してしまい「一般のユーザーがどう思うか？」という大事な点を見落としてしまうことはよくあります。

画像生成AIが焦がす「善悪の彼岸」 - 生成AIストリーム - 窓の杜

https://forest.watch.impress.co.jp/docs/serial/aistream/1508780.html

今までいっぱい書いてきたんですが

子供でもわかる話をしろ、と考えるようになりました



(技術や法律やライセンスの判断はさておき)炎上させる側の着火点を事前に掴む上で子供でもわかる「誰が迷惑するか」のラインで判断‬を引いてみるといいんじゃないかと思います。

誰かが迷惑する要素があるか？‪商標侵害するような要素があるか‬

海賊行為、特に本来お金を払わねばならない行為を関係のない第三者が無料にしてしまう例は子供でも「迷惑行為」とわかります。

さらにキャラクターの名前で商標侵害を指摘するのはわかりやすいです。

‪　例: モデル名やLoRAのキーワードに具体的な作品名やキャラクター名が含まれている‬
‪　厳格に見れば、その作品のコスプレなども翻案化権の侵害。‬

‪もちろん、過去のクライアント等で実績がある場合は、公式許諾が得られる可能性もあるし、そのLoRAを業務的に作る方法が考えられるなら「社内の実験/今回のハッカソンに限り」といった制限付きで可能かなとみます。‬

‪ところでセガサミーグループさんではそんな感じで社内の過去のアートワークなどで「社外に出せないハッカソン」などが行われているようです。ご参考まで。‬

‪https://www.4gamer.net/games/999/G999905/20230920025/‬


余談「ゼロからモデルを作る」


https://twitter.com/o_ob/status/1775678639738417387

‪https://twitter.com/o_ob/status/1775707694453968973

-そもそもなんですけど、SDXLって日本画像も含めて商用ライセンス可能なんですよね https://ja.stability.ai/blog/japanese-stable-diffusion-xl… メンバーシップに入って商用利用している公式パートナーな私からあえて紹介しておきますけど…。 https://stability.ai/membership






この記事が参加している募集

#仕事について話そう

115,018件

この記事が気に入ったらサポートをしてみませんか？