Rekenkundige precisie

De precisie van een numerieke waarde beschrijft het aantal cijfers dat wordt gebruikt om die waarde aan te geven. In een wetenschappelijke setting zou dit het totale aantal cijfers zijn (soms de significante cijfers of significante cijfers genoemd) of, minder vaak, het aantal deelcijfers of decimalen (het aantal cijfers achter de komma). Deze tweede definitie is nuttig in financiële en technische toepassingen waar het tellen van de cijfers in het deel van de breuk van bijzonder belang is.

In beide gevallen kan de term "precisie" worden gebruikt om de positie te beschrijven waarop een onnauwkeurig resultaat zal worden afgerond. Bijvoorbeeld, bij een rekenkundige berekening met een drijvend punt wordt een resultaat afgerond op een bepaalde of vaste precisie, namelijk de lengte van de resulterende significantie. Bij financiële berekeningen wordt een getal vaak afgerond op een bepaald aantal plaatsen (bijvoorbeeld op twee plaatsen na het decimaalscheidingsteken voor veel wereldvaluta's).

Als voorbeeld kan de decimale hoeveelheid 12,345 worden uitgedrukt met verschillende aantallen significante cijfers of decimalen. Als er onvoldoende precisie beschikbaar is, wordt het getal op een bepaalde manier afgerond om aan de beschikbare precisie te voldoen. De volgende tabel toont de resultaten voor verschillende totaalprecisies en decimalen, afgerond op de dichtstbijzijnde waarde met behulp van de rond-naar-even-methode.

Merk op dat het vaak niet gepast is om een cijfer met meer cijfers weer te geven dan datgene wat gemeten kan worden. Als een apparaat bijvoorbeeld tot op de gram nauwkeurig meet en een aflezing geeft van 12,345 kg, zou het een foutieve nauwkeurigheid opleveren als de meting werd uitgedrukt met "12,34500 kg" met 2 extra nullen ("00") aan het eind.

De weergave van een positief getal x tot een precisie van p significante cijfers heeft een numerieke waarde die wordt gegeven door de formule

rond(10-n-x)-10n, waarbij n = vloer(log10 x) + 1 - p.

Voor een negatief getal is de numerieke waarde min die van de absolute waarde. Het getal 0 kan, tot op zekere hoogte, als 0 worden beschouwd.

Gerelateerde pagina's


AlegsaOnline.com - 2020 / 2021 - License CC3