題記の件は、考察、或いは、目安がいる。工業的な標準はあるが、私は、プログラマになる。
この件で、普段からPC標準は、いると考えるている。
というのは、これは、あらゆる民生機器、或いは、それ以外の機器の正確な動作を期待する機器を構成する部品の精度の保証する最も有効な値になる。
例えば、極論すると、他の惑星へのロケットの軌跡の正確な動作を期待する根拠になる。
しかし、いまの組織に属する社会人では、そのレベルや構造からいって、これらはかなり実現が難しい。
大きな理由は、それらの扱い、主に、値の丸めの扱いなどについては、メーカーの秘中の秘になる。
それでは、なぜ標準が必要なのかは、具体的には経理の計算業務は、切り捨てになることが必然となることに似ている。経理マンでそれらを知らない人はなく、請求書を表計算プログラムで四捨五入する人はいないのと同じで、経理の業務の多くは、請求書を元にしていて処理をし、請求書を丸めに切り上げると、過大な請求になるのは、衆知のことになる。
幸い私は趣は違えども、たまたま学生の身、話を本題に戻し『標準偏差の計算時の値の丸めについて.』 語るのは今しかない。
これから、どうするかは、今後考える。
予告編として、基数が10進でない、統計計算のそれらを考える目安以前に、具体的に、コンピューティングするには、計算尺なのか関数電卓なのか、表計算プログラムなのか、それとも、コボル言語かベーシックなのか、Cなのかが、大きなファクターになる。(つまり、単精度か倍精度、他の有効桁など。)
~atom() - 2010/05/20 21:53(JST)
※余談になるが、精度が高いからといって、計算式が違うなど、言語同断になる。//
2010年5月20日木曜日
登録:
コメントの投稿 (Atom)

0 件のコメント:
コメントを投稿