マガジンのカバー画像

わかるとつくる

35
「わかる」ってなんだろう。なぜ人は「つくる」んだろう。理解と創造性について考えます。
運営しているクリエイター

#AIとやってみた

ラスト・プロトコル

ラスト・プロトコル

先週大騒ぎだったOpenAI内部の意見の対立には、AIのリスクに対する考え方の相違があったとも言われている。すでにOpenAIの内部ではAGI(汎用人工知能)が実現されていてその扱いを巡る対立が原因だといったまことしやかな噂も目にするが、実はそもそもAGIに明確な定義が定まっているわけではない。では、AGIのリスクとは具体的にはどんなものなのだろうか?

AGIのリスクとは?まずこの記事によれば、

もっとみる
能動的推論とAI

能動的推論とAI

拙著『コンヴィヴィアル・テクノロジー』や、このnote、寄稿した記事やトークイベントなどでも度々紹介している「予測する脳」の話。この数年、注目を集めつつあるようで、昨年はこの原理を提唱したカール・フリストンが著者に名を連ねる本が日本語訳もされた。

なかなか難解でじっくり読む時間も取れないままだったが、ようやく読み始めてみることにしたので今回はその一部を紹介してみたい。

心、脳、行動の統一原理ま

もっとみる
ChatGPTで独自データを扱うためのエンべディング

ChatGPTで独自データを扱うためのエンべディング

【2023/11/7追記】
OpenAI Dev Dayにて、開発者向けの大型アップデートが発表されました。この記事で紹介している手法は、Retrieval-Augmented Generation(RAG)と呼ばれてきましたが、今回のアップデートでコンテクスト長(やりとりできるテキストの長さの上限)がこれまでの8Kから128K(12万8千トークン)に大幅にアップするため、一般的な本の内容は1冊分

もっとみる
人間とAIについてのAIとの対話

人間とAIについてのAIとの対話

ChatGPTをはじめとする大規模言語モデル(LLM)を活用したAIが話題である。大規模言語モデルは数十億、数百億単位のパラメータ数をもつと言われるが、そもそもパラメータ数とは何のことだろう。脳の神経細胞の構造を模したニューラルネットワークにおいてのパラメータ数は、脳でいえばニューロンの数やニューロン同士をつなぐシナプスの数ということになるだろうか。

この記事によれば、はっきりとはわかっていない

もっとみる