Java Math.round

Re(3): Java Math.round

Somnatic — Sat, 18 Nov 2006 15:21:09 GMT

Nein ...

Es kann genausogut sein, dass bereits der long->double cast ungenau wird, das hängt sehr von den Zahlen ab ...

Re(2): Java Math.round

substitute — Sat, 18 Nov 2006 15:15:35 GMT

Trotzdem versteh ich nicht, wo da das Problem liegt.

Durch Math.round bekomm ich ein long 1681. Das gecastet nach double ergibt 1681.00.
Dividiert durch 100000 ergibt 0.01681, multipliziert bekomm ich diesen Müll raus.

Wo genau in dieser Kette befindet sich denn der Genauigkeitsverlust?

Re: Java Math.round

Somnatic — Sat, 18 Nov 2006 15:10:21 GMT

Willkommen, du hast die double Zahlendarstellung entdeckt ..

Wenn du exakte Zahlen haben willst, z.B. auf 2 Kommastellen genau, nimm einen Integer (mit 100 multipliziert) und führe deine Operationen in der Integerdarstellung durch ..

Java Math.round

substitute — Sat, 18 Nov 2006 15:06:42 GMT

Ich hab grad ein kleines nerviges Problem.

Ich will eine Double-Zahl runden und später auch als Prozent ausgeben:

double s1 = Math.round(x*100000);
s1 /= 100000;
System.out.println(s1*100);

Ich hab jetzt bei einer Zahl das Problem, daß durch das Multiplizieren mit 100 bei der Ausgabe

1.6809999999999998 statt
1.681

ausgegeben wird.

Any ideas?