Noggrannhetsförlust
Noggrannhetsförlust, eller kancellation, är en typ av beräkningsfel, en noggrannhetsförlust som inträffar då två nästan lika tal som har fel subtraheras och kan uppstå på grund av avrundningar eller från fel i indata. Detta beror på att närmevärdet blir litet och att felen i de två talen adderas, man får alltså ett stort relativt fel.
Noggrannhetsförlust kan ske när datorer arbetar med flyttal då de ibland måste avrundas och således introducerar fel i talen. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland möjligt att omformulera beräkningsuttrycken, genom så kallad omskrivning.
Exempel
redigeraNär man ska beräkna för små x så gäller att . Dessutom kan inte beräknas exakt, vilket ger ett fel och alltså kancellation.
Det finns tre typer av omskrivningar för att undvika kancellation, i detta fall kan alla tre appliceras:
- Serieutveckling
- Förlängning med konjugatet[särskiljning behövs]
- Trigonometrisk formel
Externa länkar
redigera- Lärobok i programmering: http://lix.hisvux.se/martinf/pascalfel.html Programmeringsfel