生成AI出来事メモ～実写系ディープフェイク編
【集英社が実在のモデルに似たAIグラビア写真集を発売→終了】
・2023年5月 プレイボーイ
集英社、AIグラビアの写真集を発売する。その容姿が浅倉唯(現在は椛島光)にそっくりだと話題に。ちなみに浅倉唯は改名と同時に水着グラビアをやめた模様 pic.twitter.com/G1xzrFiVr2
— 会木 (@tatatataniguthi) May 29, 2023
・AIモデル「さつきあい」とモデル元？の方の身長・趣味が一致。
（身長157cm 趣味ゲーム）
ちなみに浅倉唯とさつきあいの身長と趣味が一致しています pic.twitter.com/ZGaM0vlAPo
— 会木 (@tatatataniguthi) May 30, 2023
・ニュース記事
写真集発売直後より、この挑戦的な取り組みに応援する声がある一方で、SNS等では「AI生成に使用された元画像の著作権」や「これまでお世話になってきた生身のアイドルやカメラマン等の仕事を奪うのでは」等を危惧する声が多く寄せられており、これらの意見を出版社側が受け止めた結果、写真集を販売終了することとなった。
↑記事内の執筆者コメントに
『＊ＡＩ開発・学習段階：原則として著作権者の許諾なく利用することが可能。』とありますが、実際は
・思想又は感情を自ら享受し又は他人に享受させることを目的としないこと
・著作権者の利益を不当に害することとなる場合は、この限りでない
という但し書きがあります。
省かれがち（または意図的に触れないようにされがち？）ですが、
大事な部分です。
著作権法第 30 条の４による利用について
文化庁著作権課
（参考 文化庁著作権課の資料PDF）
【実在モデル女性のAI製ディープフェイクを自信満々にご披露するフォトグラファーさん】勝手にタグづけ
・2024年1月
【ネタバラシします】
— haru wagnus (@HaRu_Nus) January 11, 2024
結論から申し上げますね
先日投稿した、こちらの作品ですが、こちら実は撮影した写真ではなく、ぼくが生成したフルAI画像なのでした☺︎
ドーン💥(笑)
多分驚いた人も多いかと思いますが、実際に全てをMidjourney… pic.twitter.com/P6g0VwsODu
写真の価値を貶め、自身の信用を失う行為だと思います。
え？「関係ない」モデルを使って
— いなば(INABA) (@INABA_is_a_pen) February 3, 2024
了承なしでタグ付けなどをして
自分の作品は画像生成AI
って言ってるけど
めっちゃこわい
今後この人は画像生成AIを使うって言ってるし、作品がAIかどうか今回みたいにモデルもどっかの誰かの顔の可能性を考えないといけない
ポルノなど悪用できるのもこわい https://t.co/BrcTxHs6CY pic.twitter.com/ZG6ZDrdIaT
生成AI画像に実際のモデルさんのタグを無断で付け、生成AI画像ということを隠して投稿したということですよね。
— ラーゼ (@signofZ_) January 12, 2024
ディープフェイクにもなり得ませんか。
AIタグを付けずに手描きイラストだと偽る人間と何が違うのでしょうか。
今後は自分で撮影したと言っても誰にも信じてもらえなくなりそうです。 https://t.co/t2RmtMJbba pic.twitter.com/AUkwwIHOwE
この人はハリウッドのストライキを知らないんだろうか？
— かぴ (@9rh8) January 12, 2024
まさにこのように1度モデルを撮ったらその人物を自分のいいように勝手に改変されることに抗議してたんだよ？
貴方がしていることは搾取です。
生成AI(midjohrney)の問題についても調べているとは思えない行動。 https://t.co/8apO3aOMR9
「もし自分の顔が使われたら？」と怖くなって当然です。
写る仕事をする人間からすると、自分(のように見える人物)が写る見覚えのない写真が出回る恐怖で震えた。無償で、カメラマン(AI生成者)が好きな衣装とポージングで、モデルの意思を無視し、写真と言って信じる人が出るような1枚を世の中に発信できる恐ろしい技術を写真家が宣伝する世になったんだ、、 https://t.co/B8BEWKf5x3
— maNari (@mmoashn) January 12, 2024
【コスプレ写真のAIヌード化被害（男性）】
男性とはいえ、ついに実害が出てしまったか…😱ヌード化アプリに関するニュース記事に「画像を送りつけられる機能がある」と書いていたけれど本当なんだな💧
— 蓮見セイ@non-binary (@sei_astrology) December 18, 2023
なんて酷い… https://t.co/HVUitW4GvW
男性も女性も、大人も子供も、芸能人も一般人も。
芦田愛菜さんや石原さとみさんや広瀬すずさんもCivitAIというサイトでご本人の写真を無断で学習させたと思われるAI学習モデルをばら撒かれていますねー
— みや (@miyamoyame) May 30, 2023
こういうのを使用したんでしょうか？ https://t.co/Fdv4cSclnR pic.twitter.com/4iBgZgiV8r
https://twitter.com/hzGyPhthqhWaW64/status/1657383986296152065
生成AI推進中枢の方々はディープフェイクについて、
「被害が出るのは仕方がない」
「規制すると技術の進歩が止まる（なので規制するべきでない）」
というお考えのようです。
（過去に各媒体で実際発言されてました。）
「ディープフェイク被害予測出来るのに規制必要無いはおかしいだろう」
— そのひと (@tttttttttsasddy) May 11, 2023
と引用リツイート送ったところ、1分でブロックされました
この人、AI戦略会議で岸田総理に提言した人です
意見は全部ブロックらしい
岸田首相 「AI戦略会議」を新たに設置 課題などを検討へ | NHK https://t.co/V0JpwMKGlG https://t.co/P1vc2qU1f3 pic.twitter.com/QMsRO9wlZw
少しでも「これは駄目じゃないか･･･？」と思ったら、
こちらの記事なども見ていただけると有難いです。
知ってもらえるだけでも力になります。
【対策ツール】
・GlezeとNightshade
この記事が気に入ったらサポートをしてみませんか？