標準参考例(試験成績書)

参考例.1 

4桁半デジタルマルチメータ

参考校正データ  2001.1.8  23.4℃  61%  使用標準器、HP3458A

DCV測定レンジ、100mV〜1000V (標準値(V)の精度±0.002%)

標準値(V) 測定値(+) 測定値(−)
DCVレンジ 200.00m  
0.000m 0.01  
100.000m 100.00 −99.99
200.000m 200.00 −199.98
     
DCVレンジ 2.0000  
1.00000 1.0000 −0.9999
2.00000 2.0000 −1.9999
     
DCVレンジ 20.000  
10.0000 10.000 −9.999
20.0000 20.001 −19.999
     
DCVレンジ 200.00  
100.000 99.99 −99.98
200.000 199.98 −199.96
     
DCVレンジ 1000.0  
500.00 499.9  
600.00 599.9  
700.00 700.0  
800.00 800.0  
900.00 900.0  
1000.00 1000.1  


抵抗測定レンジ、500Ω〜50MΩ (標準値( 100Ω〜1MΩ)の精度±0.002%)
(NORMAL)            (標準値( 2MΩ〜10MΩ)の精度±0.01%)
                    (標準値(20MΩ〜50MΩ)の精度±0.05%)

標準値(Ω) 測定値   標準値(Ω) 測定値
抵抗レンジ 200.00   抵抗レンジ 200.00k
1.00 1.05   0.00k 0.01k
100.00 100.04   100.00k 99.97k
200.00 200.04   200.00k 199.94k
         
抵抗レンジ 2.0000k   抵抗レンジ 2.0000M
0.0010k 0.0010k   0.0000M 0.0000M
1.0000k 0.9997k   1.0000M 0.9998M
2.0000k 1.9995k   2.0000M 1.9995M
         
抵抗レンジ 20.000k   抵抗レンジ 20.00M
0.001k 0.001k   0.00M 0.00M
10.000k 9.998k   10.00M 10.00
20.000k 19.997k   20.00M 20.02

 

直流電流測定レンジ、500uA〜10A
 (標準値( 100uA〜500mA)の精度±0.01%)
 (標準値( 1A〜10A)の精度±0.02%)

標準値(A) 測定値   標準値(A) 測定値
電流レンジ 200.00u   電流レンジ 200.00m
0.00u 0.00u   0.00m 0.00m
100.00u 100.04u   100.00m 99.99m
200.00u 200.07u   200.00m 199.97m
         
電流レンジ 20.000m   電流レンジ 20.000
0.000m 0.000m   0.000 0.000
10.000m 10.009m   3.000 3.001
20.000m 20.018m   5.000 5.002
      7.000 7.003
      10.000 10.005
      19.000 19.015

以下交流電圧、電流もあります。

参考校正データ 2001.2.24作成



参考例.2 

アドバンテスト TR6871E 7桁半 デジタルマルチメータ

参考校正(中古品購入から調整なし)データ。2001.2.23  24℃  53%

DCV、10PLC、6桁半、NULL OFF

レンジ 標準値 表示値 ゼロ
200mV 100.000mV 100.004mV 0.003mV
2000mV 1000.000mV 1000.018mV 0.002mV
20V 10.00000V 10.00017V 0.00000V
200V 100.0000V 100.0020V −0.0002V
1000V 1000.000V 1000.016V 0.000V


DCI、10PLC、5桁半

レンジ 標準値 表示値 ゼロ
2000uA 1000.00uA 1000.08uA 0.00uA
20mA 10.0000mA  9.9990mA 0.0000mA
200mA 100.000mA 100.009mA 0.000mA
2000mA 1000.00mA 1000.08mA 0.00mA

Ω、(100kΩ以下、4端子測定)10PLC、6桁半

レンジ 標準値 表示値 ゼロ
10Ω 10.0000Ω  9.9997Ω 0.0006Ω
100Ω 100.0000Ω 100.0003Ω 0.0005Ω
1000Ω 1000.000Ω 1000.000Ω 0.000Ω
10kΩ 10.00000kΩ 10.00008kΩ 0.00000kΩ
100kΩ 100.0000kΩ 100.0010kΩ 0.0000kΩ
1000kΩ 1000.000kΩ 1000.003kΩ 0.000kΩ
10MΩ 10.0000MΩ 10.0000MΩ 0.0000MΩ
100MΩ 100.00MΩ 100.06MΩ 0.00MΩ
1000MΩ 1000MΩ 1003.2MΩ 0.0MΩ



直線性校正データ。2001.3.5  25℃  52%
試験条件:100PLC×10の平均を使用

HP3458A
の直線性(LINEARITY) ±0.05ppm以下(10Vレンジ)
 トランスファ確度 ±(0.05ppm+0.05ppm) (10Vレンジ、10分間、±0.5℃)

DCV 3458A R6871E 3458Aa R6871Ea R6871Eb 誤差(V)
0 0.0000015 0.000005 0.0000000 0.000000 0.000000 0.000000
1 1.0000010 1.000018 0.9999996 1.000013 1.000008 -0.000005
2 2.0000072 2.000031 2.0000058 2.000026 2.000023 -0.000003
3 3.0000030 3.000039 3.0000016 3.000034 3.000027 -0.000007
4 4.0000088 4.000056 4.0000074 4.000051 4.000042 -0.000009
5 5.0000047 5.000056 5.0000033 5.000051 5.000046 -0.000005
6 6.0000089 6.000069 6.0000075 6.000064 6.000059 -0.000005
7 7.0000031 7.000074 7.0000017 7.000069 7.000062 -0.000007
8 8.0000054 8.000080 8.0000040 8.000075 8.000073 -0.000002
9 9.0000084 9.000091 9.0000070 9.000086 9.000084 -0.000002
10 10.0000032 10.000091 10.0000018 10.000086 10.000088 0.000002
11 11.0000089 11.000104 11.0000075 11.000099 11.000102 0.000003
12 11.9992801 11.999387 11.9992787 11.999382 11.999382 0.000000

注.3458A:R6871E、基本データ
  3458Aa:R6871Ea、ゼロ誤差を補正した値
  R6871Eb:12Vを基準として読みの誤差を補正した値
  誤差:基準値からの誤差

  100PLC×10の測定・記録に約1分かかりますので全データをとるのに約10分です。
  直線性校正ですがその間の安定度も含みます。

交流電圧測定(4桁半表示(19999)です。)

交流電圧測定レンジ、200mV

周波数 標準値(mV) 測定値(mV)
45Hz 100.00 100.00
100Hz 100.00 100.00
1kHz 100.00 100.01
10kHz 100.00 100.06
100kHz 100.00 100.12
100Hz 10.00 9.99
100Hz 20.00 19.99
100Hz 30.00 29.99
100Hz 50.00 50.00
100Hz 70.00 70.00
100Hz 100.00 100.00
100Hz 110.00 110.00
100Hz 150.00 150.00
100Hz 190.00 190.00


交流電圧測定レンジ、2000mV

周波数 標準値(mV) 測定値(mV)
45Hz 1000.0 999.9
100Hz 1000.0 1000.0
1kHz 1000.0 1000.0
10kHz 1000.0 1000.7
100kHz 1000.0 995.2
100Hz 100.0 99.9
100Hz 200.0 199.9
100Hz 300.0 299.9
100Hz 500.0 499.9
100Hz 700.0 700.0
100Hz 1000.0 1000.0
100Hz 1100.0 1100.0
100Hz 1500.0 1500.0
100Hz 1900.0 1900.0


交流電圧測定レンジ、20V

周波数 標準値(V) 測定値(V)
50Hz 10.000 9.996
60Hz 10.000 9.997
1kHz 10.000 9.999
10kHz 10.000 10007
100kHz 10.000 10032
100Hz 1.000 0.999
100Hz 2.000 1.999
100Hz 3.000 2.998
100Hz 5.000 4.998
100Hz 7.000 6.997
100Hz 10.000 9.996
100Hz 11.000 10.996
100Hz 15.000 14.996
100Hz 19.000 18.994


交流電圧測定レンジ、200V

周波数 標準値(V) 測定値(V)
50Hz 100.00 99.95
60Hz 100.00 99.97
1kHz 100.00 99.99
10kHz 100.00 100.08
100kHz 100.00 100.76
100Hz 10.00 9.99
100Hz 20.00 19.99
100Hz 30.00 29.98
100Hz 50.00 49.98
100Hz 70.00 69.97
100Hz 100.00 99.96
100Hz 110.00 109.96
100Hz 150.00 149.96
100Hz 190.00 189.96


交流電圧測定レンジ、500V

周波数 標準値(V) 測定値(V)
45Hz 400.0 399.7
100Hz 400.0 399.8
500Hz 400.0 399.8
1kHz 400.0 399.8
2kHz 400.0 399.9
5kHz 400.0 400.1
10kHz 400.0 400.1
100Hz 100.0 99.9
100Hz 200.0 199.9
100Hz 300.0 299.8
100Hz 400.0 399.8
100Hz 500.0 499.8

 

交流電流測定(4桁半表示(19999)です。)

交流電流測定レンジ、2000μA

周波数 標準値(μA) 測定値(μA)
100Hz 100.0 100.0
100Hz 200.0 200.0
100Hz 300.0 300.1
100Hz 500.0 500.1
100Hz 700.0 700.1
100Hz 1000.0 1000.1
100Hz 1100.0 1100.1


交流電流測定レンジ、20mA

周波数 標準値(mA) 測定値(mA)
100Hz 1.000 0.999
100Hz 2.000 1.999
100Hz 3.000 3.000
100Hz 5.000 5.000
100Hz 7.000 7.001
100Hz 10.000 9.999
100Hz 11.000 10.999


交流電流測定レンジ、200mA

周波数 標準値(mA) 測定値(mA)
100Hz 10.00 9.99
100Hz 20.00 20.00
100Hz 30.00 30.01
100Hz 50.00 50.01
100Hz 70.00 70.01
100Hz 100.00 100.00
100Hz 110.00 109.99


交流電流測定レンジ、2000mA

周波数 標準値(mA) 測定値(mA)
100Hz 100.0 99.9
100Hz 200.0 199.9
100Hz 300.0 299.9
100Hz 500.0 499.9
100Hz 700.0 699.9
100Hz 1000.0 999.8
100Hz 1100.0 1099.7

お問い合わせ、見積、ご意見、ご要望、ご質問はこちらまでお願いします。

トップページ