最近の大規模言語モデルはDNAのシーケンスを解析できるらしい
今朝のラジオに出た
GPTのようなTransformerモデルは処理量がN^2に比例して大きくなるという欠点がある。
この欠点を解消し、さらに長いシーケンスを学習できるようにしたHyenaというモデルがある(logNに比例する)。なぜかHyenaを用いた自然言語モデルはあまり大きいものが作られていないのだが、DNA解析をするモデルが公開された。
ヒトゲノムのような長大なシーケンスを大規模言語モデルが扱えるようになると、話がだいぶ変わってくる。
というのも、そもそも大規模言語モデルはマルチモーダル学習が可能なことが知られている。マルチモーダルとは、複数の性質(モード)が異なるデータを同時に学習することだ。
例えば、顔写真とその人のDNAを学習させておけば、「顔写真からDNAを生成」できるようになる。
逆にDNAから顔写真を生成することもできる。
ということは、例えば犯行現場に残ったDNAから、犯人の顔を生成したりすることができる。推理小説の作り方が変わってしまう。
同じ理屈で、DNAから声も生成できる(理論上は)
エジプトのミイラからその人の姿形や声を生成することもできるかもしれない。
恐竜のDNAから、実際に体毛があったのか、どんな色だったのか(今我々が知っている恐竜の色は想像上のものでしかない)がわかるようになる。人間が恐竜のDNAをいくら読んでも限界があるが、AIならばこういう芸当も可能だろう。
この議論に倫理的な問題を指摘する人もいるだろうしもっと違った問題を感じる人もいるかもしれない。
ただ、不思議なことにDNAは合成できるということを今や誰も疑わないのに、知能が同じように合成できる可能性については「それは無理だろう。無理であって欲しいなあ」という気持ちから一歩も出ない人が大半のように感じる。
OpenAIの類稀なる情熱とそこに注ぎ込まれる膨大な資金によって、毎週のようにGPTが強化されているが、その先にあるのは何だろうか。
でも知能そのものよりも、DNAの方がはるかに高度なのだ。
そもそも知能だってDNAから作り出されているんだから。
DNA編集の可能性を考えると、例えば巨大な生物を作り出したり合成生物を作り出したり、人間よりも高度な知能を持つ可能性のある生物を合成できるかもしれない。
そっちの方がただの知性の模倣体に過ぎないAIよりもよほど脅威という気がする。
「こんな感じの生物を作って」とAIに頼むと、それを満たす生物のDNAが出てくる。
「こんな果物を作って」と言えば、その果物のDNAが出てくる。
あとはDNAを合成するだけ。
コロナ対策に使われたメッセンジャーRNAワクチンみたいなものも、大規模言語モデルがあれば自動生成できる可能性が高い。
「この病気に対抗するメッセンジャーRNAを作ってください」と言えばいい。
考えようによっては、この生命科学こそ神の領域であり、不老不死に最も近い場所でもある。ここまでできてしまうと、本が自動生成されるとかどうでも良くなってくる。
昨日、大規模言語モデルを扱っている人たちが集まった飲み会があって、その中でGPT-4を使って書いた本のゲラを見せてみたが、「どこがGPT-4なのかさっぱりわからない」と言われた。そりゃあそうだろう。僕も自分で読み返しても「どこがGPT-4なんだかわからない」
ただ、気を付けて読むとしれっと嘘が書いてあったりするので、そこだけは読み返して潰していった。そっちの作業のほうが時間がかかったくらいだ。
もちろん、最初から面白い原稿が出てきたわけではない。
最初の頃は、編集の小林さんが「清水さんが書いたところとGPTが書いたところを比べると清水さんの書いた部分が面白過ぎて本になってませんね」と懸念していた。ただ、一つ一つ丁寧に直していくと、結局どこが自動化されていて、どこがされていないのかわからないくらいになった。
GPT-4無しで原稿を書くのはもはやこのnoteくらいになった。
noteには文字数制限がないので無理に原稿を引き延ばす必要がないからだ。ただ、最近は商業媒体の要求も変わってきていて、長すぎる記事は読者に好まれないので、3000字程度で書いて欲しいと言われるようになった。
3000字だと、GPT-4に指示を出すよりも自分で書いたほうが早いことが多い。
GPT-4の使い方で僕が面白いと思っているのは、日々のニュースをまとめさせることだ。自分の興味のある分野のニュースを拾ってきて、GPTがまとめて自動音声で読み上げさせている。それだけでずいぶん日々の情報収集が楽になる気がするのだ。
毎日自分のために動画を生成してくれるAIが出現するのはおそらくあっという間だろう。来月か、来年か、はたまた来週か。
いずれにせよこれほど大きな時代の進歩に立ち会えることは本当に喜びだ。