プチコン3号＆BIGまとめWiki

パンくずリスト

• トップ
• Mame
• MathInfNan

人類の歴史は浮動小数点演算例外との戦いの歴史でもあります。もっとも、マニア以外は普通これを気にする必要は有りません。

Inf / NaN について

(これは業界用語なので世間にずっと良い解説が沢山あります。)

Inf / NaN は演算の値が通常の有理数で表わせないときに使用される特別な値です。

Inf は、いわゆる無限大です。

NaN は、結果が決定できないときに使われる値で、 Not A Number の略です。Windowsの電卓で 0/ を計算すると "結果が定義されていません" と急に日本語が出てくるアレです。

プチコンでの処理

プチコンでは、無限大は"inf"、NaNは"nan"と表示されます。なので、FORMAT$等の出力が数値と小数点、符号だけだと思っているとビックリする危険が有ります。

Inf

• POW(2,1025) のように、1024以上の数と2をPOWするとInfになる。これは、倍精度浮動小数点の指数の最大値が1023であるため。

Infを整数に変換しようとするとOverflowになります。

NaN

プチコンの数学関数や演算子は基本的に NaN を返さず、返すケースではエラーになります。e.g.) 0/、SQR(負)

一般に、 NaN を含む演算は不思議な結果になります。N#が NaN 、X#が任意の倍精度値であるとき:

• N# == X# は常に偽になります
  • 特に、N# == N# は偽になります(真では有りません)
• N# - N# は NaN になります(ゼロでは有りません)

NaNを生成するにはInfを演算するのが早いです。Inf - Inf = NaN等。

Inf / NaN の判定

CLASSIFY()を使えばできます。

数学関数の挙動

• MIN / MAX は NaN を無視する。
• Inf または -Inf を整数に変換するとOverflowとなる
• NaN を整数に変換すると0になる
• VAL()関数は Inf / -Inf / NaN を認識しない(不正な引数では0を得る)