03.10.2017, 20:28
96k,'index.php?page=Thread&postID=210986#post210986 schrieb:dann braucht es beim Abspeichern in 16-Bit keine Rundung, die alten 16-Bit-Werte sind ja noch da.Wenn ich das IEEE 754 32-Bit Format richtig verstanden habe, werden dort nur die ganzen Zahlen der Form (-)2^n exakt dargestellt (n ganzzahlig).
Beispiel: Die größte positive Zahl im 16-Bit Integer Format ist 32767 (2^15-1). Die wird als 32767/2^14=1.99993896484375 normiert und dann mit 23-Bit Mantisse dargestellt. 2^- 23 ist ~ 1.192E-7. Das heißt, von der eben in "double precision" (64 Bit) angegebenen Zahl gehen alle Ziffern hinter der siebenten Nachkommastelle verloren. 1.9999389*2^14 ist aber nur 321766.9989. Die nächst größere Zahl wäre ~32767.00089 .
Das ist zwar spitzfindig, zeigt aber, daß nicht alle ganzen Zahlen der 16-Bit Integer Darstellung ohne Rundung "unversehrt" wieder rauskommen.
Gell ?
MfG Kai