「#浮動小数点演算」の人気タグ記事一覧｜note ――つくる、つながる、とどける。

8087 - コプロセッサというもの

4か月前

22

関連インテルが新しいCPUのCore Ultraを発表しました。AI処理に向けたNPUを搭載するらしいのですが、これが一体何なのか、これまでとどう違うのかイメージが湧きません。

3週間前

6

SQLと浮動小数点演算の誤差の話

2か月前

3

【エクセル】小数点の計算ができなくなる怪

いたをさん｜伝説の野良パソコン講師

1年前

1

AIにおけるGPUとCPU

新聞を読む会

3年前

1