数字の丸め方について

No.6615 2004-07-01 11:16:36 さっちゃん

どなたか分析結果に対する数字の丸め方について教えてください。
JIS等、いろいろな本を見て調べたのですが下記の内容についてはどこにも書かれていませんでした。

ある分析において、定量下限を1とした場合0.9は定量下限未満となるか、どうかということです。
まず、定量下限の求め方として仮にここでは標準偏差の10倍を採用したこととします。その結果、定量下限は1.4となり通常下限は1桁に丸めるので1となります。
この丸めの考え方からすると0.9は丸められ1となるような気もします。しかし、私はこれは定量下限未満であると考えているのですがどうでしょうか？
又、これが0.9でなく1.9の場合、丸めて2となるのでしょうか？それとも1とした方が良いのでしょうか？

No.6667 【A-3】

Re:数字の丸め方について

2004-07-03 22:00:55 yoshibom （

こんばんは。
お返事ありがとうございます。

>例えば,標準偏差より定量下限を1.456と求めたとします。通常,定量下限は1ｹﾀに丸めるものなので1となります。ここで測定により出た結果が3つあって1.9と1.3と0.5だとします。・・・略・・・しかし,数字の丸めで1.3は1となり読めてしまっていることになります。

上水試験のみのお話ですが、多分ご存知と思いますが
定量下限値は先のレスだけでなく、もう一つ「基準値の1/10以下の値を満たすこと」とされています。（VOC他でそれ以下の値が定量下限値にされている項目もありますが･･･。）また、上水試験方法には各項目の試験方法ごとに定量下限値又は定量範囲が記載されています。

仮に基準値が1だとすると、定量下限値は0.1を満たさなければいけないことになります。併行試験により0.01456という値が求まった場合、0.02から0.1の間で決めればよいと思います。0.1でも構わないと思います。

以上の前提の上で私なりの答えになってしまいますが
定量下限が1.456と求められたら2とするのが適当かと考えます。数字を丸めた場合だと1になりますが、その場合だとさっちゃんさんの言われるように1.3も定量されていることになってしまいます。
定量下限値を2としたら1.9という値も定量されていないものとして扱って試験結果には「2以下」と記載すればよいことになります。

現実的な話になってしまいますが、求められた定量下限値を定量下限しないで、少し高めの値にしておいた方がよいと思っています。機器の状態、試薬の調製などのばらつきも考えて安定して出せる値を設定されてはどうでしょうか。試験方法には測定の度に定量下限値とした値を測定して検体を測定することになっています。定量下限値をむやみに低めにしてしまうと、定量下限値が測定できずに検査が出来ないということもあるかもしれないので。

参考になる本ですが、「上水試験方法解説編」にアンモニア性窒素の併行試験のデータを例に説明があります。

回答に対するお礼･補足

どうも回答ありがとうございます。
yoshibomさんのおっしゃるとおりだと思います。
つまり、定量下限を求める場合、切り上げにして、ｻﾝﾌﾟﾙの測定結果の場合は基本的には四捨五入、定量下限未満の場合は全て切り捨てにすると言うことですね（つまり定量下限未満とするということ）。
私もこの丸め方ならｻﾝﾌﾟﾙにもよりますが、測定結果に対して正確さが保たれていると考えます。
しかし、上記のように丸めなさいという記載がJIS等どこにも見当たりません。
あの精度管理にうるさいﾀﾞｲｵｷｼﾝ類の定量下限やｻﾝﾌﾟﾙの測定結果に対しても四捨五入としか書かれていません。この場合仮に定量下限が1.456で1となり、ｻﾝﾌﾟﾙの測定結果が0.5となった場合、1となり読めているとなってしまいます。やはり、これはおかしいですよね。
しかし、分析者の心情としては、出来るだけ少ない試料で下の方まで下限を読み取りたいものです。
ある分析者がいうには「ﾀﾞｲｵｷｼﾝ類の場合JISに書かれているからそれでいいんだ。」という人もいます。
確かに法は守ってるから間違いはないのですが、こういった分析方法を提唱する機関は、こういったことも明確にして欲しいものです。
今まで、こういったことが議論にならなかったこと、又は、ﾏﾆｭｱﾙ（JIS等）にならなかったことが不思議に思っています。
yoshibomさん、私の悩みに丁寧に答えて戴いてありがとうございました。

No.6660 【A-2】

Re:数字の丸め方について

2004-07-03 00:48:46 yoshibom （

こんばんは。
上水の水質検査をしている者です。

まず、定量下限値についてですが上水試験方法では無機物で5回の併行試験でCV=10％、有機物でCV=20％を満たす値と定められ、水質基準の検査をする場合はこのルールによって定量下限値を決定することになっています。
定量下限値以下の数字が分析により得られたとしても、その値は定量されていないものとして定量下限値以下として扱うとされています。

また、1.9をどのように扱うかについてですが、定量下限値より上の数値については有効数字の桁数に従ってJIS-Z8401により扱うことになっていますので数値を丸めて2とするのが良いと考えます。

参考になれば幸いです。

回答に対するお礼･補足

回答ありがとうございます。
参考になりました。
私もyoshibomさんのように考えてはいたのですが,引っかかる点がありました。
例えば,標準偏差より定量下限を1.456と求めたとします。通常,定量下限は1ｹﾀに丸めるものなので1となります。ここで測定により出た結果が3つあって1.9と1.3と0.5だとします。1.9と0.5の場合,一方は丸めてもう一方は切り捨てと区別していることになります。上水試験法には有効桁数の1つ下の位を丸めるとあります。ということは0.5は1となるのかなあとも考えられます。又、1.3の場合,厳密に言うと定量下限は1.456なので実際1.3は定量出来ていないことになります。しかし,数字の丸めで1.3は1となり読めてしまっていることになります。
JISも読みましたが,ここら辺のことが書かれていませんでした。何か参考になる文書がありましたら是非教えてください。

No.6657 【A-1】

Re:数字の丸め方について

2004-07-02 23:44:02 たか（

>どなたか分析結果に対する数字の丸め方について教えてください。
>JIS等、いろいろな本を見て調べたのですが下記の内容についてはどこにも書かれていませんでした。
>
>ある分析において、定量下限を1とした場合0.9は定量下限未満となるか、どうかということです。
>まず、定量下限の求め方として仮にここでは標準偏差の10倍を採用したこととします。その結果、定量下限は1.4となり通常下限は1桁に丸めるので1となります。
>この丸めの考え方からすると0.9は丸められ1となるような気もします。しかし、私はこれは定量下限未満であると考えているのですがどうでしょうか？
>又、これが0.9でなく1.9の場合、丸めて2となるのでしょうか？それとも1とした方が良いのでしょうか？
>

始めまして。
当方は計量証明事業ですが、社内規定により上記例の場合は　定量下限未満　の表記をしています。
又、自治体の検体を受託した際にも、自治体より同様の指導がありました。

回答に対するお礼･補足

はじめまして
早速の回答ありがとうございます。
やはり定量下限未満の数字は丸めずに切捨てということですね。
1つついでに気になったので教えていただきたいのですが、こういった数字の丸め方というのは社内規定で定めれば事業所ごとに勝手に決めていいということなのでしょうか？
もしよろしければ教えてください。