Rundungsfehler

Collapse
X
 
  • Filter
  • Time
  • Show
Clear All
new posts

  • Rundungsfehler

    Hallo,

    ich bastle mal wieder an einem kleinen Skript und scheitere an vermeidlich simplen Dingen.

    Ich führe folgende Rechnung durch und will überprüfen, ob die Differenz = 0.3 ist. Nach wenigen Versuchen habe ich mir die Berechnung der Differenz mal ausgeben lassen.:

    Code:
    9427.65(double) - 9427.35(double) = 0.299999999999(double)
    Wie kann sowas passieren?
    Last edited by Tarlar; 26-11-2010, 15:52.

  • #2
    Schau doch mal ins Handbuch (die fette, rote Warnung-Box).

    Comment


    • #3
      Alles klar...dann ist geht jetzt alles wieder

      Comment

      Working...
      X