クロスフォリオにAIイラストが投稿されてる問題のまとめ
クロスフォリオAIイラストまみれ問題
現在、AIイラストが投稿出来ないはずのクロスフォリオに大量のAIイラスト（らしきもの）が投稿されてる件について
頭がいい人間向けにまとめる。
クロスフォリオは規約によりAI生成コンテンツの投稿を禁止しております。
また、これにあわせてシステム的にもAI生成コンテンツ判別の仕組みが実装されています。
人間の目では判別のつかないAI生成コンテンツが容易に生成できるようになってきていることから、コンテンツ判別にはAI生成コンテンツ検出AIを用いており、クロスフォリオではこの検出AIで一定の閾値を超えたものをAI生成コンテンツと定義しております。
アップロードされた画像などがAI生成コンテンツと判定された場合はクリエイターに通知が行われ、所定の対応が行われない限り当該コンテンツの公開ができなくなりますのでご了承ください。
また禁止行為が繰り返される場合には、より厳正な対応が行われる場合もございますので、併せてご了承ください。
・クロスフォリオではイラスト投稿時に検出AI（HIVE）で一定の閾値（AI確率値？）を超えたものをAI生成コンテンツと定義している
・逆に言えば一定の閾値を超えていないのならAI生成コンテンツと定義されない
・イラスト投稿時に検出AIによってAIイラストと判定された場合、一切の弁明を受け付けずに「差し替え」か「削除」を求められる。
イラストレーターは証明が出来ず
「あきらめる」しかない。
・逆にクロスフォリオに現在公開されている全てのイラストは、AIイラストではないという判断になる。
・i2iだろうが、指が6本だろうが、腕が3本であろうが、クロスフォリオからすればAIイラストではないという判断になる。
・クロスフォリオが人間の感性で判断することはしない。
・利用規約で「これはAIイラストではない」と判断されたイラストに対して、それを観覧した者が「これはAIイラストである」という通報をするのは規約からすれば無意味である。
クロスフォリオからすればクレーム
・AIイラストが大量に投稿されている原因は「検出AIで一定の閾値」、つまりHIVEのAI確率数値の設定が高いことにある。
・つまりは検出AIで投稿時に弾く仕組みにはなっているが、ガバガバである。
・AI確率100％の状態から加工などで少しでも数値を下げれば投稿可能になる。
・ただし、AI確率判定数値は、その画像サイズを変えたり、PNGからJPG圧縮に変えたりするなど、ほんの些細な変化でも大幅に変化する可能性があるので、クロスフォリオに掲載されたイラストを自分でHIVEに検査させてもAI確率100％を出す可能性もある。
ここから自分の推測
・クロスフォリオにとって一番恐れていることはAIイラストが投稿されること…ではなくて、「AIイラストと判定されたイラストが、イラストレーターがAIを使用していないと物的証拠を伴って主張されること」と思われる。
つまり、あらいずみるい氏のような大炎上を最も恐れている。
・上記のように、AIイラストと疑われた者が分離されたレイヤーを見せてきた場合、世間からはAIイラストではないと判断されて反AI側が袋叩きにされた。
・上記の件は反AI側は全く納得していない。クロスフォリオのメイン顧客層は反AI側である。しかし世間一般の認識は圧倒的に「レイヤー分けされたものを出したら無罪判定」である。
・よってクロスフォリオが検出AIでAIイラストと判定された際に、レイヤーが分離されたファイルを提出された場合は「AI未使用」と判断するしかない。
・上記の理屈を利用してクロスフォリオ相手にAIイラストを手書き判定というお墨付きを与えることを狙った人間が出てきた。
それはAIイラストを手書きトレスして投稿した瑞島フェレリである。
検出AIで投稿されたものがAIイラストと判断されたときに、絵師が「分離されたレイヤーがある！」とか「タイムラプスがある！」とかの異議申し立てを言い出したときに、クロスフォリオが「異議申し立てを受け付ける場合」は有効か無効かを絶対に判断しなくちゃいけない。
以前はSkebとかも「AI疑惑のある奴には連絡してヒアリングをやるぞ」などと主張できた。
しかし現在はあらいずみるい氏のケースからすると、プラットフォーム側が「レイヤー分けされているからAI未使用」でも「レイヤー分けされているからと言ってもAI未使用とは限らない」と判断しても、どっちの判断でも納得出来ない奴が出てきてSNSで大炎上しかねないのでクロスフォリオは事業者として窮地に陥る。故に異議申し立てを一切受け付けないようにしている。
そもそもイラストレーターの絵をAIイラストと判断することは最悪裁判沙汰になるリスクがあった。
例えばSkebのように、従業員が「自分の感性でAIかどうかを見破ることが出来る」と主張して、「あなたの絵は自分から見たらAIイラストです」と判断した場合（いわゆる魔女狩り）、イラストレーターから名誉毀損と判断されて訴訟を起こされる可能性もある。
しかし「人間の感性で判断していない」と主張すれば、名誉毀損に陥る可能性は減る。
つまり、「検出AIがAIイラストの可能性が圧倒的に高いと判断されたら問答無用で黒」「それ以外は問答無用で白」という、あくまで自分たちは機械任せにしているという主張なら事業者側は名誉毀損になる可能性は減る。
したがって、クロスフォリオとしては「AIイラストを投稿出来ない」けど「検出AIが誤検出されない」ように、「全て検出AIに判断を任せている」という形にしないといけない。
よって、現在のクロスフォリオは「検出AIで100％に近いものは投稿時に弾いて、弾いたものは絵師の言い訳を一切受け付けないが、通った物は問答無用でAI未使用のイラスト」と主張するしかない。
まあもっと問題はいろいろと複雑ですけど、とりあえずはここまで。