反AIがAI絵を「児童ポルノ扱い」で運営に通報した件についての調査

ほがらかん

元の投稿は削除されているが、albedo氏はタグ　” #AI秋のいきなりJK祭 ”について下記のように語っていた。

Xのチャイルドセイフティーについて

https://help.x.com/ja/rules-and-policies/child-safety

2024年5月

Xでは、児童のいかなる形態の性的搾取も一切容認しておらず、児童への暴力の正常化を防ぐため、身体的な児童虐待を描写する特定のメディアは削除の対象となります。

Xのチャイルドセーフティポリシーは、性的および身体的虐待や、そうしたコンテンツを共有することによる心理的危害から未成年者を保護することを目的としています。チャイルドセーフティコンテンツとは、この原則を踏まえて以下に定義される、児童の性的搾取、身体的な児童虐待のメディア、未成年者が暴行に関与しているメディアを含むあらゆるコンテンツをいいます。
Xでは利用者の皆様に、児童や未成年者の搾取への注意を呼びかけるなど、Xにアクセスして、ストーリーの共有、注意の喚起、意見の表明を行うことを推奨しています。ただし、児童が性的虐待や、ある種の身体的虐待を受けているメディアを投稿することは、たとえ注意の喚起や正義の実現、怒りの表明を意図して共有されたり、ユーモアの文脈で共有されたりする場合であっても、児童の二次被害につながったり、児童に対する性的または身体的暴力の正常化を招いたりする可能性があります。こうしたコンテンツがXで共有されている場合、善意に基づいて共有されたものであっても削除の対象となることがあります。Xでは、コンテンツが共有されている文脈にかかわらず、未成年者の身体的および心理的危害からの保護を最優先に取り組んでいます。
Xでは、いかなるポリシーにおいても、「児童」と「未成年者」という言葉は同義語として使用されており、いずれも「18歳未満の人物」と定義されます。

児童の性的搾取
Xでは、児童の性的搾取に該当するコンテンツやこれを助長する行為を一切禁止しています。これには、そうした行為を実際に描写したメディア、テキスト、イラスト、コンピューターによって生成されたメディア（生成AIによるメディアなど）が含まれます。その意図にかかわらず、児童の性的搾取に関するあらゆる種類のコンテンツを視聴または共有したり、そうしたコンテンツへのリンクを提供したり、エンゲージメントを行ったりすることは、そこで描写されている児童の二次被害につながり、危害を被る極めて重大なリスクに児童をさらすことになります。児童の性的搾取を助長または賛美することで児童を危険にさらしうるコンテンツも同様です。

Xのチャイルドセイフティーについて

https://help.x.com/ja/rules-and-policies/child-safety


結論


タグ付けされた投稿を見てみたが、私が見たところ写真風のものやイラスト風のものなどの生成AIで出力された未成年の画像が散見されたのは事実だが、性的かどうかやディープフェイクであるかどうかなどははわからなかった。性的かどうかの判断は通報してXに判断してもらうしかないと思った。この点ディープフェイクであることやそれを販売していることを明記してしまった元の投稿者のやりかたは確かに虚偽通報を助長しかねない文言だとは思いました。ただどの投稿を想定していたのかもわからないため、現時点では虚偽とも断定できませんでした。


この記事が気に入ったらサポートをしてみませんか？