Noggrannhetsförlust, eller kancellation, är en typ av beräkningsfel, en noggrannhetsförlust som inträffar då två nästan lika tal som har fel subtraheras och kan uppstå på grund av avrundningar eller från fel i indata. Detta beror på att närmevärdet blir litet och att felen i de två talen adderas, man får alltså ett stort relativt fel.

Noggrannhetsförlust kan ske när datorer arbetar med flyttal då de ibland måste avrundas och således introducerar fel i talen. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland möjligt att omformulera beräkningsuttrycken, genom så kallad omskrivning.

Exempel

redigera

När man ska beräkna   för små x så gäller att  . Dessutom kan inte   beräknas exakt, vilket ger ett fel och alltså kancellation.

Det finns tre typer av omskrivningar för att undvika kancellation, i detta fall kan alla tre appliceras:

  1. Serieutveckling
     
    Förlängning med konjugatet[särskiljning behövs]
     
    Trigonometrisk formel
     

Externa länkar

redigera