参考例.1
4桁半デジタルマルチメータ
参考校正データ 2001.1.8 23.4℃ 61% 使用標準器、HP3458A
DCV測定レンジ、100mV〜1000V (標準値(V)の精度±0.002%)
標準値(V) | 測定値(+) | 測定値(−) |
DCVレンジ | 200.00m | |
0.000m | 0.01 | |
100.000m | 100.00 | −99.99 |
200.000m | 200.00 | −199.98 |
DCVレンジ | 2.0000 | |
1.00000 | 1.0000 | −0.9999 |
2.00000 | 2.0000 | −1.9999 |
DCVレンジ | 20.000 | |
10.0000 | 10.000 | −9.999 |
20.0000 | 20.001 | −19.999 |
DCVレンジ | 200.00 | |
100.000 | 99.99 | −99.98 |
200.000 | 199.98 | −199.96 |
DCVレンジ | 1000.0 | |
500.00 | 499.9 | |
600.00 | 599.9 | |
700.00 | 700.0 | |
800.00 | 800.0 | |
900.00 | 900.0 | |
1000.00 | 1000.1 |
抵抗測定レンジ、500Ω〜50MΩ (標準値( 100Ω〜1MΩ)の精度±0.002%)
(NORMAL)
(標準値( 2MΩ〜10MΩ)の精度±0.01%)
(標準値(20MΩ〜50MΩ)の精度±0.05%)
標準値(Ω) | 測定値 | 標準値(Ω) | 測定値 | |
抵抗レンジ | 200.00 | 抵抗レンジ | 200.00k | |
1.00 | 1.05 | 0.00k | 0.01k | |
100.00 | 100.04 | 100.00k | 99.97k | |
200.00 | 200.04 | 200.00k | 199.94k | |
抵抗レンジ | 2.0000k | 抵抗レンジ | 2.0000M | |
0.0010k | 0.0010k | 0.0000M | 0.0000M | |
1.0000k | 0.9997k | 1.0000M | 0.9998M | |
2.0000k | 1.9995k | 2.0000M | 1.9995M | |
抵抗レンジ | 20.000k | 抵抗レンジ | 20.00M | |
0.001k | 0.001k | 0.00M | 0.00M | |
10.000k | 9.998k | 10.00M | 10.00 | |
20.000k | 19.997k | 20.00M | 20.02 |
直流電流測定レンジ、500uA〜10A
(標準値( 100uA〜500mA)の精度±0.01%)
(標準値( 1A〜10A)の精度±0.02%)
標準値(A) | 測定値 | 標準値(A) | 測定値 | |
電流レンジ | 200.00u | 電流レンジ | 200.00m | |
0.00u | 0.00u | 0.00m | 0.00m | |
100.00u | 100.04u | 100.00m | 99.99m | |
200.00u | 200.07u | 200.00m | 199.97m | |
電流レンジ | 20.000m | 電流レンジ | 20.000 | |
0.000m | 0.000m | 0.000 | 0.000 | |
10.000m | 10.009m | 3.000 | 3.001 | |
20.000m | 20.018m | 5.000 | 5.002 | |
7.000 | 7.003 | |||
10.000 | 10.005 | |||
19.000 | 19.015 |
以下交流電圧、電流もあります。
参考校正データ 2001.2.24作成
参考例.2
アドバンテスト TR6871E 7桁半 デジタルマルチメータ
参考校正(中古品購入から調整なし)データ。2001.2.23 24℃ 53%
DCV、10PLC、6桁半、NULL OFF
レンジ | 標準値 | 表示値 | ゼロ |
200mV | 100.000mV | 100.004mV | 0.003mV |
2000mV | 1000.000mV | 1000.018mV | 0.002mV |
20V | 10.00000V | 10.00017V | 0.00000V |
200V | 100.0000V | 100.0020V | −0.0002V |
1000V | 1000.000V | 1000.016V | 0.000V |
DCI、10PLC、5桁半
レンジ | 標準値 | 表示値 | ゼロ |
2000uA | 1000.00uA | 1000.08uA | 0.00uA |
20mA | 10.0000mA | 9.9990mA | 0.0000mA |
200mA | 100.000mA | 100.009mA | 0.000mA |
2000mA | 1000.00mA | 1000.08mA | 0.00mA |
Ω、(100kΩ以下、4端子測定)10PLC、6桁半
レンジ | 標準値 | 表示値 | ゼロ |
10Ω | 10.0000Ω | 9.9997Ω | 0.0006Ω |
100Ω | 100.0000Ω | 100.0003Ω | 0.0005Ω |
1000Ω | 1000.000Ω | 1000.000Ω | 0.000Ω |
10kΩ | 10.00000kΩ | 10.00008kΩ | 0.00000kΩ |
100kΩ | 100.0000kΩ | 100.0010kΩ | 0.0000kΩ |
1000kΩ | 1000.000kΩ | 1000.003kΩ | 0.000kΩ |
10MΩ | 10.0000MΩ | 10.0000MΩ | 0.0000MΩ |
100MΩ | 100.00MΩ | 100.06MΩ | 0.00MΩ |
1000MΩ | 1000MΩ | 1003.2MΩ | 0.0MΩ |
直線性校正データ。2001.3.5 25℃ 52%
試験条件:100PLC×10の平均を使用
HP3458Aの直線性(LINEARITY) ±0.05ppm以下(10Vレンジ)
トランスファ確度 ±(0.05ppm+0.05ppm) (10Vレンジ、10分間、±0.5℃)
DCV | 3458A | R6871E | 3458Aa | R6871Ea | R6871Eb | 誤差 |
0 | 0.0000015 | 0.000005 | 0.0000000 | 0.000000 | 0.000000 | 0.000000 |
1 | 1.0000010 | 1.000018 | 0.9999996 | 1.000013 | 1.000008 | -0.000005 |
2 | 2.0000072 | 2.000031 | 2.0000058 | 2.000026 | 2.000023 | -0.000003 |
3 | 3.0000030 | 3.000039 | 3.0000016 | 3.000034 | 3.000027 | -0.000007 |
4 | 4.0000088 | 4.000056 | 4.0000074 | 4.000051 | 4.000042 | -0.000009 |
5 | 5.0000047 | 5.000056 | 5.0000033 | 5.000051 | 5.000046 | -0.000005 |
6 | 6.0000089 | 6.000069 | 6.0000075 | 6.000064 | 6.000059 | -0.000005 |
7 | 7.0000031 | 7.000074 | 7.0000017 | 7.000069 | 7.000062 | -0.000007 |
8 | 8.0000054 | 8.000080 | 8.0000040 | 8.000075 | 8.000073 | -0.000002 |
9 | 9.0000084 | 9.000091 | 9.0000070 | 9.000086 | 9.000084 | -0.000002 |
10 | 10.0000032 | 10.000091 | 10.0000018 | 10.000086 | 10.000088 | 0.000002 |
11 | 11.0000089 | 11.000104 | 11.0000075 | 11.000099 | 11.000102 | 0.000003 |
12 | 11.9992801 | 11.999387 | 11.9992787 | 11.999382 | 11.999382 | 0.000000 |
注.3458A:R6871E、基本データ
3458Aa:R6871Ea、ゼロ誤差を補正した値
R6871Eb:12Vを基準として読みの誤差を補正した値
誤差:基準値からの誤差
100PLC×10の測定・記録に約1分かかりますので全データをとるのに約10分です。
直線性校正ですがその間の安定度も含みます。
交流電圧測定(4桁半表示(19999)です。)
交流電圧測定レンジ、200mV
周波数 | 標準値(mV) | 測定値(mV) |
45Hz | 100.00 | 100.00 |
100Hz | 100.00 | 100.00 |
1kHz | 100.00 | 100.01 |
10kHz | 100.00 | 100.06 |
100kHz | 100.00 | 100.12 |
100Hz | 10.00 | 9.99 |
100Hz | 20.00 | 19.99 |
100Hz | 30.00 | 29.99 |
100Hz | 50.00 | 50.00 |
100Hz | 70.00 | 70.00 |
100Hz | 100.00 | 100.00 |
100Hz | 110.00 | 110.00 |
100Hz | 150.00 | 150.00 |
100Hz | 190.00 | 190.00 |
交流電圧測定レンジ、2000mV
周波数 | 標準値(mV) | 測定値(mV) |
45Hz | 1000.0 | 999.9 |
100Hz | 1000.0 | 1000.0 |
1kHz | 1000.0 | 1000.0 |
10kHz | 1000.0 | 1000.7 |
100kHz | 1000.0 | 995.2 |
100Hz | 100.0 | 99.9 |
100Hz | 200.0 | 199.9 |
100Hz | 300.0 | 299.9 |
100Hz | 500.0 | 499.9 |
100Hz | 700.0 | 700.0 |
100Hz | 1000.0 | 1000.0 |
100Hz | 1100.0 | 1100.0 |
100Hz | 1500.0 | 1500.0 |
100Hz | 1900.0 | 1900.0 |
交流電圧測定レンジ、20V
周波数 | 標準値(V) | 測定値(V) |
50Hz | 10.000 | 9.996 |
60Hz | 10.000 | 9.997 |
1kHz | 10.000 | 9.999 |
10kHz | 10.000 | 10007 |
100kHz | 10.000 | 10032 |
100Hz | 1.000 | 0.999 |
100Hz | 2.000 | 1.999 |
100Hz | 3.000 | 2.998 |
100Hz | 5.000 | 4.998 |
100Hz | 7.000 | 6.997 |
100Hz | 10.000 | 9.996 |
100Hz | 11.000 | 10.996 |
100Hz | 15.000 | 14.996 |
100Hz | 19.000 | 18.994 |
交流電圧測定レンジ、200V
周波数 | 標準値(V) | 測定値(V) |
50Hz | 100.00 | 99.95 |
60Hz | 100.00 | 99.97 |
1kHz | 100.00 | 99.99 |
10kHz | 100.00 | 100.08 |
100kHz | 100.00 | 100.76 |
100Hz | 10.00 | 9.99 |
100Hz | 20.00 | 19.99 |
100Hz | 30.00 | 29.98 |
100Hz | 50.00 | 49.98 |
100Hz | 70.00 | 69.97 |
100Hz | 100.00 | 99.96 |
100Hz | 110.00 | 109.96 |
100Hz | 150.00 | 149.96 |
100Hz | 190.00 | 189.96 |
交流電圧測定レンジ、500V
周波数 | 標準値(V) | 測定値(V) |
45Hz | 400.0 | 399.7 |
100Hz | 400.0 | 399.8 |
500Hz | 400.0 | 399.8 |
1kHz | 400.0 | 399.8 |
2kHz | 400.0 | 399.9 |
5kHz | 400.0 | 400.1 |
10kHz | 400.0 | 400.1 |
100Hz | 100.0 | 99.9 |
100Hz | 200.0 | 199.9 |
100Hz | 300.0 | 299.8 |
100Hz | 400.0 | 399.8 |
100Hz | 500.0 | 499.8 |
交流電流測定(4桁半表示(19999)です。)
交流電流測定レンジ、2000μA
周波数 | 標準値(μA) | 測定値(μA) |
100Hz | 100.0 | 100.0 |
100Hz | 200.0 | 200.0 |
100Hz | 300.0 | 300.1 |
100Hz | 500.0 | 500.1 |
100Hz | 700.0 | 700.1 |
100Hz | 1000.0 | 1000.1 |
100Hz | 1100.0 | 1100.1 |
交流電流測定レンジ、20mA
周波数 | 標準値(mA) | 測定値(mA) |
100Hz | 1.000 | 0.999 |
100Hz | 2.000 | 1.999 |
100Hz | 3.000 | 3.000 |
100Hz | 5.000 | 5.000 |
100Hz | 7.000 | 7.001 |
100Hz | 10.000 | 9.999 |
100Hz | 11.000 | 10.999 |
交流電流測定レンジ、200mA
周波数 | 標準値(mA) | 測定値(mA) |
100Hz | 10.00 | 9.99 |
100Hz | 20.00 | 20.00 |
100Hz | 30.00 | 30.01 |
100Hz | 50.00 | 50.01 |
100Hz | 70.00 | 70.01 |
100Hz | 100.00 | 100.00 |
100Hz | 110.00 | 109.99 |
交流電流測定レンジ、2000mA
周波数 | 標準値(mA) | 測定値(mA) |
100Hz | 100.0 | 99.9 |
100Hz | 200.0 | 199.9 |
100Hz | 300.0 | 299.9 |
100Hz | 500.0 | 499.9 |
100Hz | 700.0 | 699.9 |
100Hz | 1000.0 | 999.8 |
100Hz | 1100.0 | 1099.7 |