Kürzen() / Ganzzahl()

Forumthread: Kürzen() / Ganzzahl()
3 Beiträge zu diesem Forumthread
Anzeige
VBA Beispiele zu verwandten Themen

Forumthread: Kürzen() / Ganzzahl()

05.05.2005 12:59:16

Bernhard

Bei manchen Berechnungen "irrt" sich Excel!
Beispiel:
=Kürzen((16383,1-16383)*10) gibt als Ergebnis 1
=Kürzen((16384,1-16384)*10) gibt als Ergebnis 0.
Anderes Beispiel:
=Ganzzahl((32768,2-32768)*10) gibt als Ergebnis 1;
für 32767,2 stimmt das Ergebnis noch.
Gibt es dafür eine Erklärung?

3
Beiträge zum Forumthread

Beiträge zu diesem Forumthread

Betreff

Datum

Anwender

AW: Kürzen() / Ganzzahl()

05.05.2005 13:40:00

M@x
AW: Kürzen() / Ganzzahl()

05.05.2005 14:02:05

th.heinrich
AW: Kürzen() / Ganzzahl()

05.05.2005 20:51:13

Sigi

AW: Kürzen() / Ganzzahl()

05.05.2005 13:40:00

M@x

Hi,
ERklärung hab ich auch keine,
Excel neigt bei manchen Zahlenkombinationen in ca der 10. Kommastelle plötzlich werte hineinzuschreiben. was für den absoluten wWert der Zahl völlig unerheblich ist, macht sich aber beiKürzen unangenehm bemerkbar da ich im einen Fall einwenig über 1 bin im anderen Fall 10^-10 drunter, und das wirkt sich beim Kürzen natürlich fatal aus
da hilft die Funktion RUNDEN,
Gruss
M@x

AW: Kürzen() / Ganzzahl()

05.05.2005 14:02:05

th.heinrich

hallo Bernhard,
gib mal hier https://www.herber.de/ssearch.html als suchbegriff
Excel rechnet falsch ein.
gruss thomas

AW: Kürzen() / Ganzzahl()

05.05.2005 20:51:13

Sigi

Hallo Bernd,
mach mal folgende Berechnungen ...
"=16383,1-16383" und
"=16384,1-16384" und formatiere die Ergebnisse benuterdefiniert "0,00000000000000000",
also mit vielen Nachkommastellen, dann siehst du den Unterschied!
Die Erklärung ist einfach: Computer können nur mit binären Zahlen rechnen. Es gibt aber
Dezimalbrüche, die können binär nicht exakt dargestellt werden! Etwas vergleichbares
gibt es im Dezimalsystem aber auch: Stelle doch mal ein Drittel (1/3) als Dezimalzahl
dar ... 0,33333333333... und doch nicht exakt ein Drittel!
Gruß
Sigi