Bauforum-Logo

Offenes Forum Bauingenieurwesen

log in | registrieren

zurück zum Forum
  Mix-Ansicht

Die Sinnfrage der Rechengenauigkeit (Allgemeines)

verfasst von Martin Vogel Homepage E-Mail, Dortmund / Bochum, 11.12.2009, 12:28 Uhr

» Wäre es dann sinnvoller mit \"decimal\" zu rechnen und könnte man dann den
» zu erwartenden Rundungsfehler \"vernachlässigen\"? Oder sollte man die
» Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?

Das hängt von der jeweiligen Rechnung ab. Wenn regelmäßig Divisionen durch die Differenz zweier fast betragsgleicher Zahlen stattfinden (am besten noch während einer vieltausendfach durchlaufenen Schleife), kann die Genauigkeit kaum hoch genug sein. In anderen Fällen ist möglicherweise alles nach der dritten signifikanten Stelle schon ohne Bedeutung.

--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums

Heute schon programmiert? Einführung in Python 3 (PDF)

antworten
 



gesamter Thread:

zurück zum Forum
  Mix-Ansicht
Offenes Forum Bauingenieurwesen | Kontakt | Impressum
8424 Postings in 4030 Threads, 1093 registrierte User, 17 User online (0 reg., 17 Gäste)
powered by my little forum  RSS-Feed  ^
map | new