Диапазон измерений |
Измерительный ток |
Усредненное измеренное значение из 10 результатов измерений |
Отклонение от действительного значения сопротивления |
Относительная погрешность измерений, % |
|
фактическая |
допускаемая |
||||
200 мкОм |
10 А |
99,52 мкОм |
-0,48 мкОм |
-0,48 |
0,52 |
2 мОм |
10 А |
0,9970 мОм |
-0,003 мОм |
-0,30 |
0,36 |
1 А |
1,0053 мОм |
0,0053 мОм |
0,53 |
0,58 |
|
20 мОм |
10 А |
9,988 мОм |
-0,022 мОм |
-0,22 |
0,28 |
1 А |
10,008 мОм |
0,008 мОм |
0,08 |
0,12 |
|
100 мА |
10,013 мОм |
0,013 мОм |
0,13 |
0,16 |
|
200 мОм |
10 А |
100,01 мОм |
0,01 мОм |
0,01 |
0,03 |
1 А |
100,01 мОм |
0,01 мОм |
0,01 |
0,03 |
|
100 мА |
99,92 мОм |
-0,08 мОм |
-0,08 |
0,12 |
|
10 мА |
99,91 мОм |
-0,09 мОм |
-0,09 |
0,13 |
|
2 Ом |
1 А |
1,0001 Ом |
0,0001 Ом |
0,01 |
0,03 |
100 мА |
1,0001 Ом |
0,0001 Ом |
0,01 |
0,03 |
|
10 мА |
0,9993 Ом |
-0,0007 Ом |
-0,07 |
0,11 |
|
1 мА |
0,9990 Ом |
-0,001 Ом |
0,01 |
0,05 |
|
20 Ом |
100 мА |
10,001 Ом |
0,001 Ом |
0,01 |
0,03 |
10 мА |
10,001 Ом |
0,001 Ом |
0,01 |
0,03 |
|
1 мА |
9,998 Ом |
-0,002 Ом |
-0,02 |
0,04 |
|
100 мкА |
9,991 Ом |
-0,009 Ом |
-0,09 |
0,13 |
|
200 Ом |
10 мА |
100,02 Ом |
0,02 Ом |
0,02 |
0,04 |
1 мА |
99,97 Ом |
-0,03 Ом |
-0,03 |
0,05 |
|
100 мкА |
99,92 Ом |
-0,08 Ом |
-0,08 |
0,12 |
|
10 мкА |
99,91 Ом |
-0,09 Ом |
-0,09 |
0,13 |
|
2 кОм |
1 мА |
1,0001 кОм |
0,0001 кОм |
0,01 |
0,03 |
100 мкА |
1,0002 кОм |
0,0002 кОм |
0,02 |
0,04 |
|
10 мкА |
0,9998 кОм |
-0,0002 кОм |
-0,02 |
0,04 |
|
1 мкА |
0,9996 кОм |
-0,0004 кОм |
-0,04 |
0,06 |
|
20 кОм |
100 мкА |
10,001 кОм |
0,001 кОм |
0,01 |
0,03 |
10 мкА |
9,999 кОм |
-0,001 кОм |
-0,01 |
0,03 |
|
1 мкА |
9,993 кОм |
-0,007 кОм |
-0,07 |
0,11 |
|
100 нА |
10,005 кОм |
0,005 кОм |
0,05 |
0,09 |
|
200 кОм |
10 мкА |
100,01 кОм |
0,01 кОм |
0,01 |
0,03 |
1 мкА |
100,01 кОм |
0,01 кОм |
0,01 |
0,03 |
|
100 нА |
99,89 кОм |
-0,11 кОм |
-0,11 |
0,15 |
|
10 нА |
99,62 кОм |
-0,38 кОм |
-0,38 |
0,44 |
|
2 МОм |
1 мкА |
0,9998 МОм |
-0,002 МОм |
-0,02 |
0,04 |
100 нА |
0,9998 МОм |
-0,002 МОм |
-0,02 |
0,04 |
|
10 нА |
0,9995 МОм |
-0,005 МОм |
-0,05 |
0,09 |
|
20 МОм |
100 нА |
9,998 МОм |
-0,002 МОм |
-0,02 |
0,04 |
10 нА |
9,996 МОм |
-0,002 МОм |
-0,02 |
0,06 |
|
200 МОм |
10 нА |
99,98 МОм |
-0,02 МОм |
-0,02 |
0,04 |