Die Sinnfrage der Rechengenauigkeit (Allgemeines)

Martin Vogel ⌂ @, Dortmund / Bochum, Freitag, 11.12.2009, 12:28 (vor 3510 Tagen) @ Maik Herber

Wäre es dann sinnvoller mit "decimal" zu rechnen und könnte man dann den
zu erwartenden Rundungsfehler "vernachlässigen"? Oder sollte man die
Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?

Das hängt von der jeweiligen Rechnung ab. Wenn regelmäßig Divisionen durch die Differenz zweier fast betragsgleicher Zahlen stattfinden (am besten noch während einer vieltausendfach durchlaufenen Schleife), kann die Genauigkeit kaum hoch genug sein. In anderen Fällen ist möglicherweise alles nach der dritten signifikanten Stelle schon ohne Bedeutung.

--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums

Heute schon programmiert? Einführung in Python 3 (PDF)



gesamter Thread:

 RSS-Feed dieser Diskussion

powered by my little forum