見出し画像

【生成AI】児童の性的画像氾濫

koshijyun

生成AIで作られたリアルな児童の性的画像が氾濫し、
被害者が実在する児童ポルノの対策に支障が出始めています。
削除が遅れれば、児童がネットにさらされ続ける懸念があります。

一方、販売者はこう話します。 「いい小遣い稼ぎになる」

読売新聞


　男性は投稿する際、ＡＩで作ったことを明示している。
「仕事の合間に作れ、いい小遣い稼ぎになる」と話す一方、
「ネットで転載され、ＡＩで作ったことを隠されたら、実物と区別がつかないかもしれないですね」と悪びれずに言った。

読売新聞

甲斐田万智子・文京学院大教授（子どもの人権）は
「ＡＩによる児童の性的画像は、子どもを性的対象にしても構わないという誤った考え方を広める。国際基準に沿って、児童ポルノ禁止法の改正を含め、規制の議論を進めることこそが重要だ」と話した。

読売新聞


【AI生成の児童ポルノ　FBI等による問題提起。】


“児童安全の専門家によれば、 コンテンツは本物の未成年の写真を人為的に操作して作成されているという。”


ニュース記事


・FBIが警告　生成AIを悪用したセクストーション

　セクストーションは以前から存在する脅迫行為でしたが、従来のセクストーションは、被害者に対して恐喝行為を行い「本物の性的コンテンツ」を作らせるものでした。
しかし、AIの悪用によって、SNS等に掲載された一般的な写真や動画を素材とした「無数の性的コンテンツ」を作成し、これをSNS、ポルノサイト、公共フォーラムに掲載し被害者を脅迫することが可能となったのです。

yahoo記事より


・生成AIの自動性虐待画像を売買
　→記事内でpixivが温床の１つになっているとの指摘


元記事


生成AIによる児童性的画像の問題まとめ

まとめ内の【実際にこういう人物がいる】より

@Yomiuri_Online 実在児童を集中学習させただろうAI画像はよくみかけますね、 愛好家なのであーこれはあの子追加学習させてるな　というのはすぐ分かります。 かくいう私もtwitterやinstaの気に入った子を学習させて好きに利用してますが…　


生成AIの学習データセットに実際の児童ポルノ画像が含まれている話。


マネタイズに利用されるAI生成児童ポルノ
※今年５月時点の状況

AI作品の投稿が可能な支援サイトFantasfic、AI製児童ポルノだらけになる。さらにランキングを独占し、AI製児童ポルノはFantasficの一大ジャンルになる


Xで見かけたエッセイ。


この記事が気に入ったらサポートをしてみませんか？