著作権強盗AIからアーティストを守るサービスが登場♪

生成AIの強盗からアーティストを守る
シカゴ大教授による発明
2023/4/13朝日新聞ニュースより引用

　シカゴ大学でコンピューター・サイエンスを教えるベン・ジャオ教授は、画像生成AI（人工知能）からアーティストの作品を守るためのソフトウェア「Glaze（グレーズ）」をつくりました。AIによるセキュリティーやプライバシーを長年研究してきたジャオ氏に、生成AIの課題を聞きました。


　――グレーズはどういう経緯で作ったのですか。
　「私はこの数年間、AIの機械学習について、セキュリティーやプライバシー面での研究をしてきました。3年ほど前、顔認識技術によるプライバシー侵害の懸念が高まり、『Fawkes（フォークス）』というツールを開発しました。米国のベンチャー企業『クリアビューAI』などから利用者を守るためです。これらの企業は、ネット上に公開されているあなたがた個人の写真を数十億枚集め、同意を得ずに顔認識技術を開発していました。
　昨夏、このときにつくったメーリングリストに、『フォークスをアート作品の保護のために使えないか』というメールを受け取りました。当初は少し困惑したのですが、その3カ月後ぐらいから、画像生成AI『ステーブル・ディフュージョン』や『ミッドジャーニー』などの報道を目にするようになった。そこでようやく彼らの懸念がわかり、連絡を取りました」
　――アーティストとはどんな話をしましたか。
　「（生成AI企業を訴えたアーティスト）カーラ・オルティスさんたちが主宰したイベントに行って、多くのアーティストから直接話を聞きました。いかにAIが彼らの収入や評判に影響を与えているか。

いかに多くの人たちが状況を危惧しているか。彼らの話を聞いて、これは現実の問題だということだけではなく、急を要する喫緊の問題だと気づいたのです。その後、すぐにグレーズの開発を始めました」
――グレーズについて教えてください。

「グレーズは、人間の目でものを見る場合と、AIが機械学習で画像を認識するときの『差』を利用しています。人間は紫外線が見えないし、超音波も聞こえませんが、犬は聞こえるのと似たような違いです。
この違いはAIモデルに対する攻撃にも使われてきたため、私はこの『差』を埋める研究をしてきましたが、根本的な違いは埋めることができません。グレーズはこの違いを使っています。グレーズのソフトを使って画像をアップロードすると、データに修正を施します。修正された画像は肉眼ではほとんど違いがわかりませんが、AIはまったく違う画像として認識するのです。たとえば、白黒のポートレート写真を加工すると、人間にはほとんど違いがわからないものの、AIにはゴッホの油絵のような抽象画として認識されます。生成AIに『カーラの画風に似た絵をつくって』と指示しても、カーラの画風とまったく違う画像がつくられる。アーティストが自分の作品が生成AIの訓練に使われることを気にせず、ネット上で公開することができます」

ベン・ジャオ教授
ありがとうございます
一生webで、作品発表を出来ないと
作品発表を諦めてましたが
またwebを使う勇気出るかも。

まあしかし、

太陽フレアが直撃したら
パソコンやらネットやweb などは使えなくなる
中世的な生活になりますけど

な、ネオジム磁石を中国が輸出禁止にしたし、
人口の20%は5年後には
PCやスマホを使えなくなる

だから
地球号が採掘が予定どおり5年後になるかもわからんし。