R. Maruyama

丸山隆一　https://lit.link/ryuichimaruyama

R. Maruyama

丸山隆一　https://lit.link/ryuichimaruyama

ベンチマークで知能は測れるのだろうか

近年のAIの進歩は、「ベンチマーク開発」の歴史でもある。このことを認識するきっかけは、スタンフォード大学のFei-Fei Li教授の著書”The Worlds I See”だった。Li氏が構築した画像認識用ベンチマークのデータセット「ImageNet」が2010年代の深層学習ブームの基礎となっていく経緯が、この本には克明に描かれていた。 ImageNetのあとにも、多くのベンチマークが作られてきたが、ここにきて、「人類の最後の試験（Humanity’s Last Exam)

R. Maruyama

    • AIアライメント／AIセーフティの4つの問題領域

      「AIアライメント」や「AIセーフティ」に関する会話で、まず最初に必ず躓くのが、これらの言葉の意味だ。「AI Alignment」「AI Safety」と聞いて何をイメージするかには、人によってものすごくばらつきがある。相手の頭に、どのような範囲の問題が浮かんでいるか、それを探るところから会話を始めなくてはいけない。 実際、これらの言葉は何を意味しているのだろうか。これらの用語・用例の出自にさかのぼっても、あまり役に立たないかもしれない。というのも、種々の思惑、ポジション取

      R. Maruyama

      • 「AIと価値観・思想」をめぐる3つのスタンス

        昨今、AIについて話していると、かなりの確率で「価値観」や「思想」の話に行きつく。昨日まで参加していた人工知能学会でも、「人間中心主義からの脱却」、「AI時代の価値観のアップデート」などの言葉が何度となく聞かれた。技術を主に議論する場であるはずのAI学会でそうなるほどに、昨今のAIのインパクトは思想のドメインへと広がっている。 ユヴァル・ノア・ハラリが『サピエンス全史』で言うように、人間の社会は、宗教、国家、貨幣、資本主義、科学など、人々が共同で作り上げてきた「虚構」によっ

        R. Maruyama

        • A purely epistemic objective of life

          I am writing this primarily to my future self. I've been thinking to myself lately: how can I quantify the success of my daily activities? Each mode of life seems to have its own metrics. If you are an academic researcher, you need to keep

          R. Maruyama

        マガジン

        • 時間と記憶
          6本

        記事

          昔日の「編集者心得」

          某理工系出版社につとめていたころ、数年間にわたって【本日の編集者心得】という（私用）タグをつけて、訓戒めいたツイートをしていたことがある。久しぶりに検索してみたらちょっと面白かったので、Xがいつの日か前触れなく消滅する日に備えて、ここに置いておくことに。「こんなことを言い出す先輩がいたらちょっと面白いな」という感じで、Twitterにだけ吐き出された「心得」たち。日々の単調な仕事を少し劇的に演出するような息抜きでもあっただろうし、半分本気、半分ふざけた「プロ意識」のマッチポン

          R. Maruyama

          昔日の「編集者心得」

          R. Maruyama

          「家としてのAI」とアライメント問題

          前回に続く、AIアライメントに関する私的考察。寝る前の時間の殴り書きメモである。今日は、「AIアライメント問題」にはいくつかの種類がありそうだという話をしてみる。 私の印象では、近年の「AIアライメント問題」として議論されている問題には、大きく二つの種類が混ざっているように見受ける。一つ目は、LLMなどの「入力を出力に変換する装置」としてのAIモデル/システムを対象に、その出力が人間の価値観や意図と整合させるにはどうすればようかという問い。「公平性」「バイアス」「説明可能性

          R. Maruyama

          「家としてのAI」とアライメント問題

          R. Maruyama

          「科学×AI」から考えるAIアライメントの難しさ

          先日の勉強会では、AIが科学をどう変えるのか、いわゆる「AI for Science」の帰結について考えた。一方で、AIそれ自体も新しい科学の研究対象になりつつある（＝Science of AI）。「AI for Science」と「Science of AI」が組み合わさるとどうなるか。AIが科学を変え、科学はAIを理解しようとする。その科学そのものにAIがまた使われる。したがって、「AI for Science of AI for science of AI for …」

          R. Maruyama

          「科学×AI」から考えるAIアライメントの難しさ

          R. Maruyama

          思考メモ：なぜ日本ではAIのexistential riskに挑もうと思う研究者が現れにくいのか（逆に海外ではなぜ現れるのか）

          近未来のAIが人間に壊滅的な被害をもたらす、いわゆるExistential riskへの技術的な対策を考える団体が世界には数十存在し、研究者も数百人いると言われている。一方、そうした研究者が日本にはほとんど見当たらない。なぜか？　これについて思うところを書いてみる。（寝る前の雑なメモ。Tweetで済ませようとしたものが少し長くなったので、ここに投稿する。） しかし、「なぜ日本にいないのか」というのは自分の実感からすると問いが逆だ。不思議なのは、なぜ海外（おもに北米と英国）で

          R. Maruyama

          思考メモ：なぜ日本ではAIのexistential riskに挑もうと思う研究者が現れにくいのか（逆に海外ではなぜ現れるのか）

          R. Maruyama

          note on DAO UTokyo (2024.2.6-7)

          For the past two days, I participated in DAO UTokyo, a conference held at the University of Tokyo. Scholars from many fields and prominent business figures in Web3 gathered from around the world (mainly from North America, Taiwan, and Korea

          R. Maruyama

          note on DAO UTokyo (2024.2.6-7)

          R. Maruyama

          Decentralisationについて考える際の心構えについての殴り書きメモ

          現代のキーワードの一つ「Decentralised/Decentralisation」について頭を整理する必要を感じている。以下、寝る前の時間で書ける範囲の書き殴りのメモを残しておく。 まず日本語訳だが、「分散型/分散化」だとdistributed/variedといった意味にとらえると少しずれ、「非中央集権」だと「集権」のところが少し重すぎる気がするのが悩ましいが、適宜使い分けるしかなさそうだ。 分散化/非中央集権化への希求は当然、centraliseされた制度やシステム

          R. Maruyama

          Decentralisationについて考える際の心構えについての殴り書きメモ

          R. Maruyama

          どういうつもりで生きているかの説明（弁明）

          一日中、考え事をしている私だが、実はほとんどの時間は「これからどうやって生きていくか」について悩んでいる。そんなことに興味がある人はいないのでWebにはほかのことを書くようにしているのだが、今日は少しだけ書いてみようと思う。というのも最近、いろいろな活動をやり散らかしていることもあって、「一緒に〇〇しませんか」「〇〇で話して／書いてくれませんか」と依頼をいただくことが増えてきた。大変ありがたい。基本はありがたくお受けするのだが、お断りしなければいけないことも出てきていて、その

          R. Maruyama

          どういうつもりで生きているかの説明（弁明）

          R. Maruyama

          季節の変わり目・ChatGPT・下西風澄「生まれ消える心─傷・データ・過去」

          桜がほぼ散り終わるこの季節、近年はなんだか毎年そわそわしている。新型コロナウイルス、ウクライナ戦争。自分の予見可能性のスコープに入っていなかった何かが起こって、迫り来る地殻変動を感じる。This may change everything。本当に？　日々、手元のスマホでの情報漁りが止まらない。 今年「襲来」したのは、ChatGPTだった。対話型大規模言語モデル（LLM）が明らかに何らかの閾値を超えた。これが自分の暮らしをどう変えることになるか、皆、固唾をのんでいる。Earl

          R. Maruyama

          季節の変わり目・ChatGPT・下西風澄「生まれ消える心─傷・データ・過去」

          R. Maruyama

          書くことと記憶力の関係について

          文章を書くことには、他人への伝達とは別に、未来の自分へ何かを残すという機能がある。自分以外誰も読まない日記やブログやメモを、それでも書いておく価値があるように思えるのは、それを書くことによって自分がなにがしか先へ進めるような気がするからだろう。 ここでは「記憶力」の問題がかかわっている。 もし私が無限の記憶力をもち、書いたことを一字一句覚えておけるなら、そもそも書く必要がない。書こうと思ったことをそのまま覚えておけばいい。 一方で逆に、私が貧弱な記憶力しか持たず、書いた

          R. Maruyama

          書くことと記憶力の関係について

          R. Maruyama

          内発的な、にわか仕込み

          公的機関の「シンクタンク部門」に勤め始めてもうすぐ2年。任期ももうすぐ折り返し。この仕事の意義、自分がやっていることが何に貢献しているのか見定められない時期が続いてきたが、さすがに少しずつ勘所がつかめてきているような感じが全くしないこともない。 意思決定をしなければいけない誰かの求めに応じて、あるいは集団的な意思決定が起こりそうな現場を見つけて、予備知識ゼロのところから専門知をかき集め、並べ、角度をつけ、一つのストーリーラインをこしらえ、投げ込む。当然、解像度とスピードには

          R. Maruyama

          内発的な、にわか仕込み

          R. Maruyama

          afloat

          What am I doing?　バタつく足は、firmな地面には届かない。現実からの手応えがない。そんな感覚で今日も終わる。 表現さえ浮かんでこない。寄る辺なさ。言葉がdisintegrating。After all these years I haven't made sense out of . . . well, anything. わけが分かっていない。未だに、何一つ。 ディシプリンがない。足場がない。self-madeで脆弱な知性。目の前に現れる立派な「本」に

          R. Maruyama

          afloat

          R. Maruyama

          不眠不休の世界生成

          寝ている間も世界は続いている そして　寝ている間も私の脳は 世界を生成し続けている 1秒も休むことなく 脳は時を刻み続ける （夢をみていても　いなくても） 時間という練りがらしを 心のチューブから押し出し続ける 8時間寝た私の脳は 8時間世界を遍歴し あるいは8時間ぶんの世界を生み出し だから私は8時間ぶん成長 あるいは　歳をとって 目を覚ますだろう 隣で寝息を立てている この人たちの脳でもまた 稠密なる世界生成が進行している

          R. Maruyama

          不眠不休の世界生成

          R. Maruyama