Dualsystem (Allgemeines)

Martin Vogel ⌂ @, Dortmund / Bochum, Thu, 22.09.2016, 18:52 (vor 2745 Tagen) @ Maik Herber

float x = 0.9f - 0.8f;
float: 0,09999996
Wieso muss da nicht 0.1 raus kommen????

Weil die Zahl intern nicht im Dezimalsystem verarbeitet wird. Wenn die verwendete Programmiersprache nur mit acht Stellen Genauigkeit rechnet, treten beim Umwandeln vom und ins Dualsystem schon recht früh solche Rundungsfehler auf.

https://de.wikipedia.org/wiki/Gleitkommazahl
http://www.know-about.de/binaerzahlen

--
Dipl.-Ing. Martin Vogel
Leiter des Bauforums

Bücher:
CAD mit BricsCAD
Bauinformatik mit Python


gesamter Thread:

 RSS-Feed dieser Diskussion

powered by my little forum