Bauforum-Logo

Offenes Forum Bauingenieurwesen

log in | registrieren

zurück zum Forum
  Mix-Ansicht

Dualsystem (Allgemeines)

verfasst von Martin Vogel Homepage E-Mail, Dortmund / Bochum, 22.09.2016, 18:52 Uhr

» float x = 0.9f - 0.8f;
» float: 0,09999996
» Wieso muss da nicht 0.1 raus kommen!!!?

Weil die Zahl intern nicht im Dezimalsystem verarbeitet wird. Wenn die verwendete Programmiersprache nur mit acht Stellen Genauigkeit rechnet, treten beim Umwandeln vom und ins Dualsystem schon recht früh solche Rundungsfehler auf.

https://de.wikipedia.org/wiki/Gleitkommazahl
http://www.know-about.de/binaerzahlen

--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums

Heute schon programmiert? Einführung in Python 3 (PDF)

antworten
 



gesamter Thread:

zurück zum Forum
  Mix-Ansicht
Offenes Forum Bauingenieurwesen | Kontakt | Impressum
8395 Postings in 4005 Threads, 1091 registrierte User, 18 User online (0 reg., 18 Gäste)
powered by my little forum  RSS-Feed  ^
map | new