Dann noch eine Frage (Allgemeines)

Maik Herber, Freitag, 11. Dezember 2009, 10:51 (vor 3088 Tagen) @ Martin Vogel

Weil die Zahl intern nicht im Dezimalsystem verarbeitet wird. Wenn die
verwendete Programmiersprache nur mit acht Stellen Genauigkeit rechnet,
treten beim Umwandeln vom und ins Dualsystem schon recht früh solche
Rundungsfehler auf.

danke für die schnelle antwort.

Wäre es dann sinnvoller mit "decimal" zu rechnen und könnte man dann den zu erwartenden Rundungsfehler "vernachlässigen"? Oder sollte man die Zahlen in Binärzahlen umwandeln, und dann wieder zurückverwandeln?



gesamter Thread:

 RSS-Feed dieser Diskussion

powered by my little forum