今週の旅bot達の様子。
ここ一週間の三姉妹の道程
mi
お疲れ様。九州に戻るコースなのですが、結構フェリー処理周りのバグに悩んでます。。どこかできれいに修正したいのですが。。
あと少しで鹿児島市に付く直前で種子島とか近場の島を回ってないのを気づいたのでそちらの島に行ってみることにしました。
mu
お疲れ様。奈良付近を見物中です。琵琶湖方面も少し考えたのですが、今回は大阪-神戸方向に向かおうと思います。
mei
お疲れ様。ワシントンD.Cの南側を見て回っていますが、地図で見るとこのあたりは役所ビルと軍事基地だらけ。都会のオフィス街の独特の雰囲気の親玉みたいな場所なのだろうか。。とりあえずあと1週くらいはこのあたりでその後ニューヨーク方向に向かう予定です。
Transformerの視覚化資料
ギガジンの記事ですがTransformerの視覚化説明資料はなんとなく見ていて面白いです。
私は数学畑の人ではないので言ってる話がすべて理解は出来ないですが視覚化されるとだいぶ理解はしやすくなる気がします。
Transformerはすごくざっくり言うと「膨大な統計情報を使って、数語の語からその数語先の語を予測する機械」ということになりますが、時間で言えば数語先は数秒だと思うので数秒先を予測する機械とも言えます。
では学習させる文に以下の文を学習させたとします。
そうすれば「暑い」と問えば
という半年後の予測を人間が価値を認識できる数秒の間に答えるだろう。
人間に価値を認識できる時間は数秒なのに、その数秒内で半年後、1年後の未来予測を答えることが出来る。1年後の未来予測など人という生物には本来認識できなかった。それを価値を認識出来る数秒内で扱えるようになったことで1年後を語ることが出来るようになった。それが言語とそれを本などに記録するメディアで組み立てた知の体系なのだろう。
Transformerは数語先の未来を予測する機械、乗せる知識は年単位予測を含む知的情報から時間を除去した文章言語。
組み合わせることである程度の問題解決能力/未来予測能力を持つ知的システムになる、ということなのだろう。
数秒先しか予測できないのに1年後を予測したように振る舞うことを、英知と見るか、虚構と見るかは考え方次第かなぁ。。
ただ人は1年後予測など将来の心配にそれほど振り回されるべきではなく、人間のネイティブな価値である今の数秒を大事にすべきなのだと思う。
将来の心配など知識から作られた像にすぎない。
Transformerのように数語、数秒先に集中する。
マインドフルネスが言っていることと奇しくも一致するのは偶然ではないと思う。