Bauforum-Logo

Offenes Forum Bauingenieurwesen

log in | registrieren

zurück zum Forum
  Mix-Ansicht

Dann noch eine Frage (Allgemeines)

verfasst von Maik Herber E-Mail, 11.12.2009, 10:51 Uhr

» Weil die Zahl intern nicht im Dezimalsystem verarbeitet wird. Wenn die
» verwendete Programmiersprache nur mit acht Stellen Genauigkeit rechnet,
» treten beim Umwandeln vom und ins Dualsystem schon recht früh solche
» Rundungsfehler auf.

danke für die schnelle antwort.

Wäre es dann sinnvoller mit \"decimal\" zu rechnen und könnte man dann den zu erwartenden Rundungsfehler \"vernachlässigen\"? Oder sollte man die Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?

antworten
 



gesamter Thread:

zurück zum Forum
  Mix-Ansicht
Offenes Forum Bauingenieurwesen | Kontakt | Impressum
8396 Postings in 4006 Threads, 1091 registrierte User, 27 User online (0 reg., 27 Gäste)
powered by my little forum  RSS-Feed  ^
map | new