Die Sinnfrage der Rechengenauigkeit (Allgemeines)
Wäre es dann sinnvoller mit "decimal" zu rechnen und könnte man dann den
zu erwartenden Rundungsfehler "vernachlässigen"? Oder sollte man die
Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?
Das hängt von der jeweiligen Rechnung ab. Wenn regelmäßig Divisionen durch die Differenz zweier fast betragsgleicher Zahlen stattfinden (am besten noch während einer vieltausendfach durchlaufenen Schleife), kann die Genauigkeit kaum hoch genug sein. In anderen Fällen ist möglicherweise alles nach der dritten signifikanten Stelle schon ohne Bedeutung.
--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums
Bücher:
CAD mit BricsCAD
Bauinformatik mit Python
gesamter Thread:
- Frage zu einer Programmierung? -
Maik Herber,
11.12.2009, 10:10
- Dualsystem -
Martin Vogel,
22.09.2016, 18:52
- Dann noch eine Frage -
Maik Herber,
11.12.2009, 10:51
- Die Sinnfrage der Rechengenauigkeit - Martin Vogel, 11.12.2009, 12:28
- Dann noch eine Frage -
Maik Herber,
11.12.2009, 10:51
- Dualsystem -
Martin Vogel,
22.09.2016, 18:52