フェイクニュースの夢を見る日

OpenAIは非営利の研究機関で、スポンサーのページに企業より先にイーロン・マスクやY CombinatorのSam Altmanといった個人の名前が並んでいる。そういうこともあって「OpenAIが危険」じゃなくて「イーロン・マスクが危険」みたいになってしまうが、それも織り込み済みなのだろう。

マスク氏支援のOpenAIが開発したテキストジェネレータ、何が危険か？

マスク氏が支援するOpenAI、大規模な教師なし言語モデル「GPT-2」の情報を公開

この話題に対してSophosという会社が書いたブログを読んでみる。

Fake text generator is so good its creators don’t want to release full version

The tool doesn’t discriminate between topics. Instead, it uses over 40Gb of text gathered from the internet to help it produce convincing-sounding copy on anything from Miley Cyrus to astrophysics.

Miley Cyrusは米国で人気の女優の名前だが、Miley Cyrusのような芸能人の話題から天文学まで幅広いジャンルで説得力があるように聞こえるコピーを生成するために40Gbものテキストを使う。convincing-soundingのほかに、fine-sounding（聞こえがいい）、high-sounding（堂々とした）、sweet-soundingという表現がある。

Perhaps the most worrying use case is the production of fake news via social media and blog posts. Marry it with other forms of deepfake (such as NVIDIA’s recently launched ThisPersonDoesNotExist) for the creation of fake faces, and deepfake video and audio, and you have the makings of an automated disinformation-spewing social media machine.

で、想像の通りfake newsが生み出されるということだ。日本だと圧縮新聞いう素晴らしいメディアがあるし、逆SEOのために大量に無意味な文章を生成するサイトもあるので、すでに実在している感じでもある。

この文にも出てきたThisPersonDoesNotExitについても読んでみる。

This website uses AI to generate faces of people who don't exist

GAN, or Generative Adversarial Networks, is a concept within machine learning which aims to generate images that are indistinguishable from real ones. You can train GANs to remember human faces, as well bedrooms, cars, and cats, and of course, generate images of them.

GANはindistinguishable、つまり現実と見分けのつかない画像を生成することを目的とした技術だ。人間の顔と同様にbedroomや車、猫も学習できるとあるが、なぜbedroom？

We just don't have very good control over the dreams, but I actually have a small side project where I'm going to see if I can control the StyleGAN dreams with a paragraph (I want to see an old man with sunglasses and a beard wearing a blue shirt).

夢をコントロールすることはできないが、パラグラフで夢をコントロールするためのプロジェクトはあるのだという。（sunglasses and a beard wearing a blue shirtの夢を見たいという話は、どんな意味？）