[検証]Tableauで扱える値の範囲について

●経緯

とあるVizを作った際にTableauで扱える値の範囲が気になったので
検証してみる。ググっても意外とHitせず公式Webサイトにも明記がない。
そこで今回は実機で検証し、扱える値の上限と下限を推定してみる。

なお検証するきっかけとなったしょうもないVizはこちらにあるので
暇なときにみて笑ってほしい。

画像4

上の画像をクリックするとリンクに飛びます。

●検証環境

Tableau Desktop 2021.1.2 64ビット(Windows版)

●大きな数

このVizで出てくる最大の数はOrd4回答パターンの

4,016,736,041,955,950,000,000,000

という25桁の数である。
この値は難なく可視化することが出来、実際に上のVizにも反映されている。
そこでアドホック計算で無理やり累乗や掛け算をして、大きな数の限界を探ってみた。

[Ord4回答パターン数]^12*10000000000000

そして上のような計算をしたところ、
少なくともこれくらいの値までは計算出来た。

176,392,257,473,810,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000

厳密な限界値ではないがこの数を2倍すると「inf」となるので、
かなり限界には近いと思う。
だいたい300桁くらいまでなら扱えるといっていいだろう。
しかしながらこんな膨大な桁数を使う分析とは一体何があるのだろうか。

●小さな数

このVizで出てくる最も小さな数は以下25桁(%表示のため23桁)である。

0.00000000000000000000002%

可視化自体は一応できるのだが、
Tableauの小数点以下の表示は16桁が限界となるため、
細かい値が表示できなくなる。

画像3

・・が、この検証をしているときに、
カスタム書式設定ならもっと細かい値が表示させられることに気が付いた。
(Viz作成時にはこれに気が付かず、文字列としてインポートしていた)

画像5

書式設定の欄に数字は無限に入力出来るが、
大きな数を入れると表示がおかしくなり、表示がループする感じになる。
カスタム書式設定で表示可能な限界は以下267桁であった。

000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000%


さて本題に戻ろう。同じようにエラーが出るまで細かい計算をしてみる。

[Ord4突破確率]^13/100

この計算結果を更に÷2等すると0になるため、この辺りが限界だと推定。
表示可能な限界を突破しているため推計になるが、
25桁×13+2=330桁程度は裏側で持てるのではないだろうか。
最もこれだけ小さい数だと精緻に計算できているかは怪しい。

つまり、表示可能な範囲としては260桁程度、
計算可能な範囲は300桁程度といえるのではないだろうか。
少なくとも値としては0にはならなかった。

●最後に余談

結論としてはだいたい大小300桁くらい扱え、実務上ほぼ差し支えない
という知見0の話である(だからどこにも情報がないのだろう)。
ただ検証を通じてTableauの懐の深さを知れたし、書式設定の桁数の限界についても学べた。
ネタで作ったVizだったが、こうした形で私に思わぬ勉強機会をくれた。
何事もやってみるものである。


この記事が気に入ったらサポートをしてみませんか?