分析値の取り扱いについて

No.24373 2007-08-17 01:18:04 cks

基本的な質問で本当に申し訳ありませんが
どなたか教えてください
よろしくお願いします

測定を行う前に、希釈や濃縮を行なった場合ですが
①値を処理してから、倍率を掛ける
②生データに倍率を掛けてから、値を処理する
どちらが正しい数値の取り扱いでしょうか？

具体的には、
定量下限値が0.01，有効数字2桁，2倍希釈，生データ0.264の場合では
①0.26×2→0.52
②0.264×2→0.528→0.53
となります

また、2倍濃縮，生データ0.289の場合では
①0.29×1/2→0.145→0.15
②0.289×1/2→0.1445→0.14
となります

No.24375 【A-1】

Re:分析値の取り扱いについて

2007-08-17 09:20:35 katayama （

>基本的な質問で本当に申し訳ありませんが
>どなたか教えてください
>よろしくお願いします

http://www.gs.niigata-u.ac.jp/~kimlab/lecture/numerical/index.html

こちらが、ご参考になるかと思います。

回答に対するお礼･補足

ありがとうございました（すっきりしました）
有効数字を考慮してから倍率を掛けると精度が落ちることがあるので、有効数字＋１桁にしてから、計算を進め（倍率を掛け）、最後に有効数字を合わせる、という方法を取ろうと思います

No.24547 【A-2】

Re:分析値の取り扱いについて

2007-08-26 19:23:38 火鼠（

JISの数値のまるめ方は、お持ちでしょうか？

回答に対するお礼･補足

回答が大変遅くなり、すいませんでした。
JIS Z 8401でしょうか？
少し見たことはあるのですが、そちらも、きちんと見直してみたいと思います。
ありがとうございました。