Blog
Messunsicherheiten Seite 2/10


Messgröße bzw.
Kalibriergegenstand
Messbereich Messbedingungen Messunsicherheit Bemerkungen
Gleichstromwiderstand
Kalibrieren von
Widerstands­
messgeräten
1 Ω; 1,9 Ω   0,11 · 10-3  
10 Ω 34 · 10-6
19 Ω 33 · 10-6
100 Ω; 190 Ω 22 · 10-6
1 kΩ; 1,9 kΩ 18 · 10-6
10 kΩ 17 · 10-6
19 kΩ 24 · 10-6
100 kΩ 26 · 10-6
190 kΩ 34 · 10-6
1 MΩ; 1,9 MΩ 0,10 · 10-3
10 MΩ; 19 MΩ 0,21 · 10-3
100 MΩ 0,42 · 10-3
1 GΩ 3,9 · 10-3
10 GΩ 4,8 · 10-3
100 GΩ 6,7 · 10-3
Kalibrieren von
Widerstands­
messgeräten
(Bereiche)
0,01 Ω bis 10 Ω   4 · 10-3 · R + 0,13 mΩ R = jeweiliger
Messwert
>1 Ω bis 10 Ω 39 · 10-6 · R + 0,13Ω
>10 Ω bis 100 Ω 11 · 10-6 · R + 1,6 m~
>100 Ω bis 100kΩ 24 · 10-6 · R
>100kΩ bis 1MΩ 48 · 10-6 · R
>1MΩ bis 10MΩ 75 · 10-6 · R + 0,11 kΩ
>10MΩ bis 100MΩ 0,72 · 10-3 · R
Gleichstromwiderstand
Kalibrieren von
Widerständen
> 10 mΩ bis 0,1Ω   0,13 · 10-3 · R R = jeweiliger
Messwert
> 0,1Ω bis 1Ω 1 A 0,12 · 10-3 · R
> 1Ω bis 10Ω   23 · 10-6 · R + 85 µΩ
> 10Ω bis 100Ω 13 · 10-6 · R + 0,90 mΩ
> 100Ω bis 1kΩ 14 · 10-6 · R + 0,70 mΩ
> 1 kΩ bis 10 kΩ 13 · 10-6 · R + 6,8 mΩ
> 10 kΩ bis 100 kΩ 15 · 10-6 · R + 50 mΩ
> 100 kΩ bis 1MΩ 30 · 10-6 · R + 1,8 Ω
> 1 MΩ bis 10 MΩ 75 · 10-6 · R + 0,10 kΩ
> 10 MΩ bis 100 MΩ 0,61 · 10-3 · R + 1 kΩ
> 100 MΩ bis 100 GΩ 20 · 10-3 · R
mit HP 3458A 12 · 10-6
1 kΩ 4,4 · 10-6
10 kΩ 6,7 · 10-6

vorherige Seite nächste Seite