Wer kennt sich mit Audacity / MP 3 aus?
#15
96k,'index.php?page=Thread&postID=210986#post210986 schrieb:dann braucht es beim Abspeichern in 16-Bit keine Rundung, die alten 16-Bit-Werte sind ja noch da.
Wenn ich das IEEE 754 32-Bit Format richtig verstanden habe, werden dort nur die ganzen Zahlen der Form (-)2^n exakt dargestellt (n ganzzahlig).

Beispiel: Die größte positive Zahl im 16-Bit Integer Format ist 32767 (2^15-1). Die wird als 32767/2^14=1.99993896484375 normiert und dann mit 23-Bit Mantisse dargestellt. 2^- 23 ist ~ 1.192E-7. Das heißt, von der eben in "double precision" (64 Bit) angegebenen Zahl gehen alle Ziffern hinter der siebenten Nachkommastelle verloren. 1.9999389*2^14 ist aber nur 321766.9989. Die nächst größere Zahl wäre ~32767.00089 .
Das ist zwar spitzfindig, zeigt aber, daß nicht alle ganzen Zahlen der 16-Bit Integer Darstellung ohne Rundung "unversehrt" wieder rauskommen.
Gell ?
MfG Kai
Zitieren


Nachrichten in diesem Thema
[Kein Betreff] - von timo - 02.10.2017, 21:12
[Kein Betreff] - von Friedrich Engel - 03.10.2017, 09:59
[Kein Betreff] - von besoe - 03.10.2017, 10:30
[Kein Betreff] - von olav246 - 03.10.2017, 11:55
[Kein Betreff] - von bitbrain2101 - 03.10.2017, 12:21
[Kein Betreff] - von kaimex - 03.10.2017, 17:10
[Kein Betreff] - von 96k - 03.10.2017, 18:04
[Kein Betreff] - von leserpost - 03.10.2017, 18:44
[Kein Betreff] - von 96k - 03.10.2017, 19:03
[Kein Betreff] - von kaimex - 03.10.2017, 19:06
[Kein Betreff] - von luedre - 03.10.2017, 19:18
[Kein Betreff] - von 96k - 03.10.2017, 19:30
[Kein Betreff] - von 96k - 03.10.2017, 19:41
[Kein Betreff] - von kaimex - 03.10.2017, 20:28
[Kein Betreff] - von bitbrain2101 - 03.10.2017, 22:14
[Kein Betreff] - von 96k - 03.10.2017, 23:10
[Kein Betreff] - von 96k - 03.10.2017, 23:18
[Kein Betreff] - von kaimex - 04.10.2017, 02:24
[Kein Betreff] - von kaimex - 04.10.2017, 09:06
[Kein Betreff] - von Friedrich Engel - 04.10.2017, 09:41
[Kein Betreff] - von Andre N. - 04.10.2017, 13:53
[Kein Betreff] - von kaimex - 04.10.2017, 14:06
[Kein Betreff] - von Andre N. - 04.10.2017, 14:48

Gehe zu:


Benutzer, die gerade dieses Thema anschauen: 1 Gast/Gäste