Avalabは危険なのか？ VRMアップロード型サービスのリスクについて
Avalab.aiというサービスが話題になっています。VRoid Hubと連携することで、アバターモデルから画像を作成してくれるサービスです。
例えば、自分のオリジナルモデル「ロズヴィータ」をこのサービスを使用して作成すると、以下のようになります。
どのように動作していると推測できるか
Avalabは技術詳細に関しては公開していないため、どのような方式でこれらの画像を生成しているかは不明瞭な部分がありますが、概ね以下のようなプロセスであると推測できます。
ユーザーがVRMモデルをサービスに提供（現在はVRoid Hubのみですが、今後はVRMもアップロードできるようになるようです）
サービスはアップロードされたVRMをもとにLoRAモデルをトレーニング。恐らく一定の法則に従ってモデルのレンダリング画像を作成し、トレーニングを行っていると思われます。
生成したLoRAモデルをもとに画像を生成。
アバターをアップロードして画像を生成することを特長とするサービスですので、ユーザーは納得の上でVRMファイルを提供し、画像を作成することになります。
VRoid Hubは基本的にその連携アプリケーションに対してVRMファイルを提供するサービスとなっています。つまりVRoid Hubと連携しアバターを読み込ませることは、VRMファイルをアップロードするのと同義です。
この点において、サービス的にはユーザーに無断でアバターを取得しているわけではなく、「抜かれている」と表現するのはやや不当です。
他のVRMを利用する環境とほとんど変わりません。
アバターのアップロードとリスク評価
アバターをアップロードしても大丈夫なのかについては、リスク管理の一環としてアバターの位置づけ（そもそもアバターファイルを秘匿する必要があるのか）、サービスのアバター取り扱いの管理状況、漏洩リスクなどをユーザーが評価し、リスクを許容できるかどうかを判断する必要があります。
仕組み上の漏洩リスクに関しては、不特定第三者にモデルデータを送信する必要があるVRSNSとは異なり、サービス内で完結する使い方となりますので、むしろリスクはVRSNSよりも低いと評価できます。
不正侵入やセキュリティ事象によるデータ盗難については、どんなサービスでも発生しうるため、ここでは議論しません。
尚、VRSNSにおいての違法取得アバターの流通については実例があり、明確なリスクとなります。
VRoid Hubの審査警告について
VRoid HubはAPIの使用について公認・非公認の枠があり、審査を通過したものはレートリミットの撤廃やアプリケーション紹介ページへの掲載が可能です。
審査が通っていないものに関してはいわゆる野良アプリ的な扱いになります。審査基準については次のページで解説されています: VRoid SDK ガイドライン。
要項は複雑ではなく、通過自体はさほど困難ではありません。
ただし、審査されたアプリだから安心と保証するものではなく、あくまでも一定の基準を運営側が確認できる範囲で確認したものです。
無審査でもVRMを直接アップロードする程度のリスクと考えることができます。
二次学習の可能性について
取得されたアバターをもとに二次学習が行われているかについては、LoRAを使用している可能性が高いため、これは「可能性がある」と言えます。
ただし、モデルの再学習はLoRAに比べてさらに高い標準のリソースを要求するため、大規模に実行されているとは考えにくい部分もあります。
生成物の著作権に関して
AIイラストと著作権の整合性については相反する意見が多く、ここでは議論しません。
一つの疑問としては、Avalabがガードレールを設置しているのかという点があります。
特定のキャラクターに寄せるようなプロンプトが入力された場合、それを是正する仕組みが導入されているかどうかです。
ガードレールの設置が不十分で、生成物に高い依拠性が認められる場合は、著作権侵害となる可能性があります。
アバター規約との整合性について
各アバターの作者は自由に規約を定めることができるため、その中でAIイラスト生成への使用を禁止している可能性もあります。
こういった記述がない場合において、通常VRMファイルをサービスにアップロードして使用する行為が認められることが多いですが、このサービスもそれに含まれるかどうかは個別の判断になります。
最後に
アバターから様々なスタイルのアートを生み出せるサービスとして非常に興味深く、面白いサービスです。
ただし、アバターをアップロードすることで伴うリスクも確かに存在します。サービスの利用はリスクと利便性を天秤にかけ、納得した形で利用するようにしてください。