sql-problem

Re: sql-problem

darksign1 — Fri, 09 Jan 2009 09:03:31 GMT

k.A. wie der Befehl in MySQL heißt, aber bei MS-SQL würd ich's so machen:

SELECT cast((round((NETTO+TRANS)*1.19,2)-NETTO-TRANS) as numeric(18,4)) AS Ergebnis FROM BELEG WHERE REC_ID = '45653'

Re: sql-problem

juwb — Fri, 09 Jan 2009 00:21:31 GMT

Bei mir (mysql 5.0.72) kommt bei beiden SELECT Statements, dasselbe Ergebnis 6.37 heraus.

Vielleicht kannst du ja in deine WHERE Bedingung mal NETTO=28.0000 and TRANS=5.5000 reintun um zu schauen ob du dann immer noch das Ergebnis bekommst. Falls nein hast du in deiner Datenbank vielleicht doch einfach andere Werte drinstehen.

Allgemein muss man bei Kommazahlen, immer mit gewissen Rundungsfehlern leben. Die Genauigkeit der Darstellung der Zahlen ist einfach begrenzt.

Re(3): sql-problem

-Transformer2K- — Thu, 08 Jan 2009 20:23:03 GMT

hm konvertier die Ausgabe mal in decimal(12,4) ... ich verwend selber nur MS SQL, daher kann ich jetzt nur vermuten

Re(2): sql-problem

alexk — Thu, 08 Jan 2009 20:18:30 GMT

decimal(12,4) ... sollte passen

Re: sql-problem

-Transformer2K- — Thu, 08 Jan 2009 19:25:45 GMT

vielleicht aufgrund des Datentyps?

sql-problem

alexk — Thu, 08 Jan 2009 19:03:56 GMT

ich habe mit mysql (5.0.45) folgendes interessantes problem:

feld NETTO: '28.0000'
feld TRANS: '5.500'

und jetzt das phänomen:

SELECT round((28.0000+5.5000)*1.19,2)-28.0000-5.5000

kommt zum Ergebnis 6.37 (was auch richtig ist)

aber

SELECT round((NETTO+TRANS)*1.19,2)-NETTO-TRANS FROM BELEG WHERE REC_ID = '45653'

kommt zum Ergebnis 6.36

das Problem hängt mit dem Runden zusammen, nur verstehe ich nicht, wieso das zweimal unterschiedliche ergebnisse ausgibt ...