ログイン
会員登録
浮動小数点
書いてみる
関連タグ
#python (176,392)
#高校数学 (5,273)
#Excel (8,843)
#エクセル (4,467)
#2進数 (122)
#32bit (57)
人気
急上昇
新着
定番
有料のみ
17件
人気の記事一覧
浮動小数点がちょっと面白い
ヨマ
7か月前
9
平方根を求める計算方法を変えてみたらバグっていたというお話
AyumiKatayama
6日前
6
【C言語】浮動小数点型を自作関数で出力する
jizo
1年前
4
躍る小数点
sori
2週間前
1
Tableau×落とし穴 ~小数点~
Haruka
1年前
8
社内SEの休憩時間、浮動小数点を世の中に普及させよう
くろまる
3年前
21
Pythonでの小数点の計算の怪
Pythonic HighSchool
2年前
2
浮動小数点の指数部の考え方
Pythonic HighSchool
2年前
2
2進数での丸め処理をする関数
Pythonic HighSchool
2年前
1
Python データ型とデータ構造 : 整数と浮動小数点
リュディア
3年前
2
エクセルの限界に挑む
大森 武
3年前
2
16bit ? 24 bit ? 32bit-float ???を噛み砕く
Kay Kuzumi(ケイ クズミ)
4年前
10
【コンピュータ】小数を表す浮動小数点数とは?
すうじょうさん
3年前
2
消費税の検算をしたくて、 「消費税手入力」と「(原価/1.1)ー原価」をEXACTしたらFalseになる。 Excelの浮動小数点のいたずらに悩まされた、30分。
結城 珪
5か月前
🎡GLSLで陰陽マークを作る製造過程 シェーダープログラミング 結合分配法則 sign関数でメリハリ
あたり総研
1年前
Pythonで小数型の数値を2進数、さらには16進数に変換する
Pythonic HighSchool
2年前
Pythonと浮動小数点
Pythonic HighSchool
2年前