Korrekta decimaler är ett mått på hur stor skillnaden är mellan ett närmevärde och det exakta värde närmevärdet approximerar. Om till exempel a = och närmevärdet är â = 1,414 har närmevärdet tre korrekta decimaler.

En mer formell definition är:[1]
Om , där är skillnaden mellan det korrekta värdet och närmevärdet, sägs närmevärdet ha korrekta decimaler.

Se ävenRedigera

KällorRedigera

  1. ^ Eldén, Lars och Wittmeyer-Koch, Linde (1992). Numerisk analys – en introduktion (2:a uppl.). Lund: Studentlitteratur. sid. 12. ISBN 91-44-25652-3