Die Sinnfrage der Rechengenauigkeit (Allgemeines)

Martin Vogel ⌂ @, Dortmund / Bochum, Fri, 11.12.2009, 12:28 (vor 5221 Tagen) @ Maik Herber

Wäre es dann sinnvoller mit "decimal" zu rechnen und könnte man dann den
zu erwartenden Rundungsfehler "vernachlässigen"? Oder sollte man die
Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?

Das hängt von der jeweiligen Rechnung ab. Wenn regelmäßig Divisionen durch die Differenz zweier fast betragsgleicher Zahlen stattfinden (am besten noch während einer vieltausendfach durchlaufenen Schleife), kann die Genauigkeit kaum hoch genug sein. In anderen Fällen ist möglicherweise alles nach der dritten signifikanten Stelle schon ohne Bedeutung.

--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums

Bücher:
CAD mit BricsCAD
Bauinformatik mit Python


gesamter Thread:

 RSS-Feed dieser Diskussion

powered by my little forum