R. Maruyama

丸山隆一／CoSTEP12期／記憶の脳科学／IBS治療中／重ね描き日記：http://…

R. Maruyama

丸山隆一／CoSTEP12期／記憶の脳科学／IBS治療中／重ね描き日記：http://rmaruy.hatenablog.com/

「家としてのAI」とアライメント問題

前回に続く、AIアライメントに関する私的考察。寝る前の時間の殴り書きメモである。今日は、「AIアライメント問題」にはいくつかの種類がありそうだという話をしてみる。 私の印象では、近年の「AIアライメント問題」として議論されている問題には、大きく二つの種類が混ざっているように見受ける。一つ目は、LLMなどの「入力を出力に変換する装置」としてのAIモデル/システムを対象に、その出力が人間の価値観や意図と整合させるにはどうすればようかという問い。「公平性」「バイアス」「説明可能性

R. Maruyama

    • 「科学×AI」から考えるAIアライメントの難しさ

      先日の勉強会では、AIが科学をどう変えるのか、いわゆる「AI for Science」の帰結について考えた。一方で、AIそれ自体も新しい科学の研究対象になりつつある（＝Science of AI）。「AI for Science」と「Science of AI」が組み合わさるとどうなるか。AIが科学を変え、科学はAIを理解しようとする。その科学そのものにAIがまた使われる。したがって、「AI for Science of AI for science of AI for …」

      R. Maruyama

      • 思考メモ：なぜ日本ではAIのexistential riskに挑もうと思う研究者が現れにくいのか（逆に海外ではなぜ現れるのか）

        近未来のAIが人間に壊滅的な被害をもたらす、いわゆるExistential riskへの技術的な対策を考える団体が世界には数十存在し、研究者も数百人いると言われている。一方、そうした研究者が日本にはほとんど見当たらない。なぜか？　これについて思うところを書いてみる。（寝る前の雑なメモ。Tweetで済ませようとしたものが少し長くなったので、ここに投稿する。） しかし、「なぜ日本にいないのか」というのは自分の実感からすると問いが逆だ。不思議なのは、なぜ海外（おもに北米と英国）で

        R. Maruyama

        • note on DAO UTokyo (2024.2.6-7)

          For the past two days, I participated in DAO UTokyo, a conference held at the University of Tokyo. Scholars from many fields and prominent business figures in Web3 gathered from around the world (mainly from North America, Taiwan, and Korea

          R. Maruyama

        「家としてのAI」とアライメント問題

        R. Maruyama

        マガジン

        • 時間と記憶
          6本

        記事

          Decentralisationについて考える際の心構えについての殴り書きメモ

          現代のキーワードの一つ「Decentralised/Decentralisation」について頭を整理する必要を感じている。以下、寝る前の時間で書ける範囲の書き殴りのメモを残しておく。 まず日本語訳だが、「分散型/分散化」だとdistributed/variedといった意味にとらえると少しずれ、「非中央集権」だと「集権」のところが少し重すぎる気がするのが悩ましいが、適宜使い分けるしかなさそうだ。 分散化/非中央集権化への希求は当然、centraliseされた制度やシステム

          R. Maruyama

          Decentralisationについて考える際の心構えについての殴り書きメモ

          R. Maruyama

          どういうつもりで生きているかの説明（弁明）

          一日中、考え事をしている私だが、実はほとんどの時間は「これからどうやって生きていくか」について悩んでいる。そんなことに興味がある人はいないのでWebにはほかのことを書くようにしているのだが、今日は少しだけ書いてみようと思う。というのも最近、いろいろな活動をやり散らかしていることもあって、「一緒に〇〇しませんか」「〇〇で話して／書いてくれませんか」と依頼をいただくことが増えてきた。大変ありがたい。基本はありがたくお受けするのだが、お断りしなければいけないことも出てきていて、その

          R. Maruyama

          どういうつもりで生きているかの説明（弁明）

          R. Maruyama

          季節の変わり目・ChatGPT・下西風澄「生まれ消える心─傷・データ・過去」

          桜がほぼ散り終わるこの季節、近年はなんだか毎年そわそわしている。新型コロナウイルス、ウクライナ戦争。自分の予見可能性のスコープに入っていなかった何かが起こって、迫り来る地殻変動を感じる。This may change everything。本当に？　日々、手元のスマホでの情報漁りが止まらない。 今年「襲来」したのは、ChatGPTだった。対話型大規模言語モデル（LLM）が明らかに何らかの閾値を超えた。これが自分の暮らしをどう変えることになるか、皆、固唾をのんでいる。Earl

          R. Maruyama

          季節の変わり目・ChatGPT・下西風澄「生まれ消える心─傷・データ・過去」

          R. Maruyama

          書くことと記憶力の関係について

          文章を書くことには、他人への伝達とは別に、未来の自分へ何かを残すという機能がある。自分以外誰も読まない日記やブログやメモを、それでも書いておく価値があるように思えるのは、それを書くことによって自分がなにがしか先へ進めるような気がするからだろう。 ここでは「記憶力」の問題がかかわっている。 もし私が無限の記憶力をもち、書いたことを一字一句覚えておけるなら、そもそも書く必要がない。書こうと思ったことをそのまま覚えておけばいい。 一方で逆に、私が貧弱な記憶力しか持たず、書いた

          R. Maruyama

          書くことと記憶力の関係について

          R. Maruyama

          内発的な、にわか仕込み

          公的機関の「シンクタンク部門」に勤め始めてもうすぐ2年。任期ももうすぐ折り返し。この仕事の意義、自分がやっていることが何に貢献しているのか見定められない時期が続いてきたが、さすがに少しずつ勘所がつかめてきているような感じが全くしないこともない。 意思決定をしなければいけない誰かの求めに応じて、あるいは集団的な意思決定が起こりそうな現場を見つけて、予備知識ゼロのところから専門知をかき集め、並べ、角度をつけ、一つのストーリーラインをこしらえ、投げ込む。当然、解像度とスピードには

          R. Maruyama

          内発的な、にわか仕込み

          R. Maruyama

          afloat

          What am I doing?　バタつく足は、firmな地面には届かない。現実からの手応えがない。そんな感覚で今日も終わる。 表現さえ浮かんでこない。寄る辺なさ。言葉がdisintegrating。After all these years I haven't made sense out of . . . well, anything. わけが分かっていない。未だに、何一つ。 ディシプリンがない。足場がない。self-madeで脆弱な知性。目の前に現れる立派な「本」に

          R. Maruyama

          afloat

          R. Maruyama

          不眠不休の世界生成

          寝ている間も世界は続いている そして　寝ている間も私の脳は 世界を生成し続けている 1秒も休むことなく 脳は時を刻み続ける （夢をみていても　いなくても） 時間という練りがらしを 心のチューブから押し出し続ける 8時間寝た私の脳は 8時間世界を遍歴し あるいは8時間ぶんの世界を生み出し だから私は8時間ぶん成長 あるいは　歳をとって 目を覚ますだろう 隣で寝息を立てている この人たちの脳でもまた 稠密なる世界生成が進行している

          R. Maruyama

          不眠不休の世界生成

          R. Maruyama

          2022年2月ウクライナ侵略開始後の科学技術外交をめぐる言説収集メモ・随時追加

          ロシアによるウクライナ侵略を受けて、様々な形でのロシアへの制裁や交流の断絶が始まっている。科学・学術の分野でもロシアとの共同プロジェクトの停止など、動きが広がっている。 このあと、ロシアの科学だけが孤立の道を歩んでいくのだろうか。あるいは、科学者の紐帯は切れずに残るのか。はたまた、他国も巻き込んで、世界の科学・学術はいくつかのブロックに分裂していくのだろうか。もちろん誰にもわからないし、何よりウクライナ、ロシアの今後の情勢によるだろう。それでも、初動における各国の言説が気に

          R. Maruyama

          2022年2月ウクライナ侵略開始後の科学技術外交をめぐる言説収集メモ・随時追加

          R. Maruyama

          都合のいい願い

          家の掃除を手伝った。もらったばかりのおもちゃで遊んだ。近所のお店で炒飯を食べた。図書館に行った。北海道の場所と形を覚えた。たくさんふざけた。母と妹と風呂に入った。 今日のあれこれが、30年後のあなたの記憶の総体の、小さく無意識のパーツとなるとき、ほんの少しなりともそれが、厳しい世界を生きるであろうあなたの胸に、冷たさよりは温かさとともにあってくれますように。

          R. Maruyama

          都合のいい願い

          R. Maruyama

          夜は問いを変える

          某機関の「シンクタンク部門」に勤め始めて10か月が経った。与えられたお題に対して、情報を集め、咀嚼し、ワードやパワポにまとめる日々。そんな「勉強」のようなことで給料をもらえる仕事があるだなんて知らなかった。 とはいえ、楽しいだけではなく、割としんどい。行き詰まっているかもしれない。 ミッションは、○○問題に関する現状と課題について、数か月後には（少なくとも組織内の）誰よりも詳しくなること。それらしい「解」のようなものについて、それらしいプレゼンができるようになること。

          R. Maruyama

          夜は問いを変える

          R. Maruyama

          単独行の原理的な不可能性

          たった一人で何かを「分かる」ことは可能だろうか。 分かったことを誰かに伝えようという意志や努力や形式を伴わない「理解」は存在しうるだろうか。 無人島にたった一人漂着した人でも、日々新しいことを「理解」できるかもしれない。でも「分かった」と思うその脳裡では、いつの日か体験談を聞いてくれる、あるいは死後日記を読んでくれる誰かのことが、形式的にせよ念頭にあるのではないか。 「伝える」を可能性としてすら排除した理解は存在しないのではないか。理解とは、必ずコミュニケーションのアリー

          R. Maruyama

          単独行の原理的な不可能性

          R. Maruyama

          未接続

          父親が手放せないスマホが何につながっているか、まだ知らない娘。 「おとーさん、電話見てていいから、一緒に寝ようよ」 とめどない罪悪感。 「あと、週末にピクニックして、おにぎりを食べましたって、先生に書いてね」 保育園の連絡帳が、君のインスタグラム。

          R. Maruyama

          未接続

          R. Maruyama