Bauforum-Logo

Forum Bauen und Umwelt

log in | registrieren

zurück zum Forum
  Mix-Ansicht

Dann noch eine Frage (Allgemeines)

verfasst von Maik Herber E-Mail, 11.12.2009, 10:51 Uhr

» Weil die Zahl intern nicht im Dezimalsystem verarbeitet wird. Wenn die
» verwendete Programmiersprache nur mit acht Stellen Genauigkeit rechnet,
» treten beim Umwandeln vom und ins Dualsystem schon recht früh solche
» Rundungsfehler auf.

danke für die schnelle antwort.

Wäre es dann sinnvoller mit \"decimal\" zu rechnen und könnte man dann den zu erwartenden Rundungsfehler \"vernachlässigen\"? Oder sollte man die Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?

antworten
 



gesamter Thread:

zurück zum Forum
  Mix-Ansicht
Forum Bauen und Umwelt | Kontakt | Impressum
8433 Postings in 4038 Threads, 1094 registrierte User, 39 User online (0 reg., 39 Gäste)
powered by my little forum  RSS-Feed  ^
map | new