Precisie (getallen)

In de wiskunde beschrijft precisie de mate van exactheid in de cijfers van een getal, zoals getal 54,6 met precisie 1 (één decimaal cijfer). Een getal met eindnullen ("00") heeft een negatieve precisie, zoals 500 met precisie -2, of 4.000 met precisie -3. Een geheel getal (niet eindigend op "0") heeft precisie 0.

Het niveau van precisie verschilt van het woord "nauwkeurigheid" van een getal, dat de juistheid of waarheid van een getal betekent zoals gebruikt om een voorwerp of een telling te beschrijven.

 
AlegsaOnline.com - 2020 / 2023 - License CC3