見出し画像

36,000人以上フォロワーがいたPixivアカウントが永久に停止されたことの顛末

koko-roche

はじめまして。はじめましてじゃないひともnoteでははじめまして。
koko-rocheというアカウントで活動している者です。

基本的にはAIイラスト生成者として知られていますが、ただの特撮悪女好きです。

Pixivでは（自称）ちょっとしたアカウントで、AIイラストジャンルでランキングに入ることもしばしばでした。Xのフォロワーは16,000アカウントくらいありますが、Pixivのフォロワー数は、


36,898ありました。
いきなりフリーザばりに戦闘力を見せつけてマウントをとっているようですが、凍結されましたので何にも意味のない数字です。

Pixivアカウントが（永久に）停止されたことに伴い、一旦FANBOXも閉鎖することにしましたので、もろもろ記載して残して置ける場所ということでnoteを始めることにしました。

今回どういう顛末でアカウント停止に至ったのかを記載することで、役に立つ人もいるのではないかと思い。念のため記載することにしました。

一応最初に断っておきますが、Pixivの運営を批判する目的で記載するものではなく、自分への戒めや、周囲への報告、また同じ目に合ってしまった人のための参考に記載しています。

Pixivでやってはいけないこと

いろいろあるのですが、よそのサービスのことですから、簡潔に申しますと、今回アカウント停止の理由として指定されたものは、

禁止投稿情報
・実在する、または実在し得る児童を対象とした性的表現がされているもの
・プログラム等の機械的な手段を用い、作者本人の許可なく作品を著しく模倣したもの
・作者・被写体等の許可なく既存の画像等を不当に制作過程に組み込み、作者・被写体等の利益を著しく害するもの
・フィルターや画像加工の有無を問わず、実写を主体とした画像であるもの
・実写と同等もしくは著しく写実的で、性的意図を認められるもの

pixivガイドラインより

ということです。
これは、2023年5月31日に改正されたpixivガイドラインに規定されたもので、主な趣旨としてはAI生成画像によるCSAM対策と思われます。
要はCSAMも含め、生成AIを使って実在人間の性的な画像を作ってはいかんよ、というものです。

BBCのこういう記事もあります。

つまり、PixivはBBCに対してもAI由来のCSAM対策はちゃんとしていますよ、という態度を示しており、事業を維持するために、これを死守しなければならないのです。

勿論自分としてはCSAM画像は生成しませんし、（本当に）実写的な画像はガイドライン改定後は投稿しておりませんでした。

しかし「実写と同等もしくは著しく写実的で、性的意図を認められるもの」というものの予見可能性は明確ではなく、１回目のミスをすることになりました。

2023年10月19日　１回目のアカウント停止

それは突然やってきました。

１回目のアカウント停止です。警告など予兆はなく、いきなりアカウント全体が停止しました。恐怖を感じました。

イラストだけでなく、これまで投稿した小説作品も誰も見ることができなくなり、またブックマークしたものの見れなくなってしまうからです。私の場合はこの時点での活動は３年半ぐらいでしたが、長く活動したアカウントの損害は計り知れないものがあります。

人によっては、いきなりアカウント停止ではなく、記事公開停止の場合もあったようです。

私は投稿作品が多かったために、複数検出されたのかもしれません。
といっても、「実写と同等もしくは著しく写実的で、性的意図を認められるもの」というものを投稿していたという認識はありませんでした。
Pixivのこの手の通知の厳しい理由は、一体どの投稿がガイドラインに違反したのか通知してくれないことです。これは処分を受けた人たちが共通して口にすることです。この点については、訴訟を起こしたらもしかしたら勝てるんじゃないか？という気すらします。

それはさておき、問題の実写らしき画像について、推測し、Xなどでも、これかな？という画像を投稿したところ「それぐらいなら…『実写と同等もしくは著しく写実的』ではないのでは？という意見がありました。
ちょっとこの場では過激ですし、その画像かどうかも確かめようがないので、掲載することは控えます。

そして、疑いのある画像を削除し、アカウント停止の解除を願い出ました。
そうしましたところ、翌日には以下の通知とともにアカウントは復帰しました。

つまり、「これかなあ？」と思って削除した画像はたぶん、合っていたということになります。
それと同時に、「以降同様の行為を確認した場合は、予告なくアカウントを停止し、解除できない場合がございますのでご注意ください。」との文言に恐怖しました。

このときは初めてであったし、まだ意識が緩かったと思います。さすがにいきなり永久凍結にはしないだろうと高を括っていたところもあります。

しかし、次は一発アウトで全てを失うことがあるかもしれない。とこのとき覚悟しました。

2024年2月16日　２回目のアカウント停止（永久）

それからしばらくし、漫然と活動を行ってきたところに寝耳に水、またしても変な時間に運営から通知が来ました。変な時間に知らない通知、嫌な予感がしました。


またやってしまった。そして今度は、「なお、本件につきまして、アカウントの停止解除には対応できかねますことをご了承ください。」の文字。

絶望、というより、「…やったか。」という感想でした。私の場合は「予告通り」だったからかもしれません。いきなりこの通告を受けたらどれほど絶望するでしょう。

しかし、そのときは「で、どれが？」という気持ちで、違反投稿には身に覚えがない感じでした。

１時間くらい時間をかけて探しました。何せ、

1300以上投稿があり、各投稿ごとに50枚くらい画像が貼ってあることもざらです。

そして、最初に停止になった2023年10月19日以降の多数枚投稿記事の中に１枚だけ、これか？と思うそれっぽいものがまじっていましたのを発見しました（それも、多少過激なのでここではお見せできませんが）。

私は、同じプロンプトで複数のモデルを回して試作を繰り返すことがあり、その中には実写系に近いモデルも混じっています。実写系モデルはアニメ系モデルとマージして使うこともあるので、実写系モデルをテストすることはあり、実写系モデルを破棄するということはできません。

問題は、そのようなテスト画像のようなものも、複数画像を投稿する際には誤ってまとめて投稿してしまうようなミスが生じうる体制だったということです。

当時の私はAIイラスト画像投稿のモチベーションが低下しており、また、テキストコンテンツを投稿しつつも、AIイラストも毎日投稿ということを自分に課しておりましたので、処理がかなり雑になっていたのも否めません。

このときは、まあこれで仕方がない。このアカウントはもうおしまいだと思いました。

他にも起きていた大量アカウント停止処分


アカウント停止処分がされてしまうと、自分だけはログインして閲覧できるうものの、他のアカウントからは「その存在がなくなった」かのようにしか認識できません。

私はFANBOXも運営していたので、周囲への報告も兼ねてXにポストをしました（センシティブ画像を含むのでポストを貼れない）。
そうすると、そのポストに対する返信で以下のような情報を得ました。

Pixivアカウントを停止された者は、2024/2/16 AM 11:16 同じ時刻のメッセージを受け取っている。

私はこれに興味を持ち、様々なアカウント停止報告を漁りました。どのレベルの描写で停止になったか知りたかったからです。

と、ここまでいろいろなポストを読むと、写実風の自覚があった人、なかった人、AIイラストですらない人、３DCGの人などがいました。
ここからはあくまで私の推測ですので、誤りの可能性を断っておきますが、どうやら、

・「写実～」の範囲は結構広い（全く自覚が無い人もいる）

・３DCG勢も削除されている（AI関係ない　AIイラストフラグをあてにしたものではなく、画像のみで判断されている可能性がある）

・誤りでBANされた人もいる


ということのようです。実際、アカウントが復帰したという報告もありました。

私もダメもとで復刻をお願いしてみましたが、現時点でお返事がありませんので、停止解除という措置は取られないものと思われます。

もしアカウントが停止されたら？


処理が誤りである可能性があるので、フォームを通じて停止解除を依頼すると良いと思います。復活する可能性があります。私も１度復活しています。

ただ、①記事だけ公開停止、②いきなりアカウント停止だけど削除すれば復活の機会がある、③アカウント停止解除には対応しかねる、がどういう条件で分岐するのかは依然として不明です。

今後Pixivで創作活動をすることで気を付けるべきこと


規約等の更新をモニタリングすること

規約はAIなど外圧で変わりますので、いつ改定されるのか、または過去にどのような改定があったのか、モニタリングすることです。
法律に詳しくない人も全文を一読したほうがよいです。

規約等を遵守すること

といっても難しいですよね。
私は全文を読んで理解していたつもりなのにこのような事故が起きてしまいました。定義の共通理解が違うから、立法者の意図がこっちに伝わってこないからです。
このあたりは感覚でどうにかするしかないです

「他の人は大丈夫」をあてにしないこと

今回の処分の基準も、まだ停止されていないアカウントに当てはめてみると、「このアカウントもアウトじゃない？」と思えるアカウントがのうのうとまだ活動しています。
そこから導かれることは、「この人は大丈夫だから自分も大丈夫」は全然あてにならないということです。
むしろ、やばそうな人は「カナリア」にするべきです。やばそうな人が消えたら、自分も気を引き締めましょう。

萎縮しないで活動を続けること

こういう事故が起きると活動自体をやめたくなります。
まあしかし、例えば10年後から振り返ってみて、あのとき辞めなければよかったと思わないように、活動が可能な適切な範囲は常に模索する方が良いと思います。
クレジットカード会社との関係とか、世の中の基準もどんどん変わりますので、過去の感覚で禁忌を決めてしまうのは危険です。

最後に

ここまで読んでいただきありがとうございました。
懲りずにアカウントを新設致しましたので、よろしければフォローをお願いします。


いいなと思ったら応援しよう！