Re: Probleme beim Rechnen mit Long-Integer Kategorie: IDE (von PeterS - 15.01.2011 15:34) | |
Als Antwort auf Probleme beim Rechnen mit Long-Integer von Christian - 15.01.2011 15:10
| |
Hallo Christian, auch kein Bug. Bei Ergebnis_1 = Wert_1 / 86400 Macht er eine signed division weil 86400 vorzeichenbehaftet ist. Um dem Compiler zu zeigen, das eine Zahl unsigned ist mu� ein "U" angehängt werden. Ergebnis_1 = Wert_1 / 86400U funktioniert korrekt. Gruss Peter > Hallo Peter, > > in der IDE 2.12.0.10 gib es noch Probleme beim Rechnen mit Long-Integer. > > Dim Wert_1 As ULong > Dim Wert_2 As ULong > > Dim Ergebnis_1 As ULong > Dim Ergebnis_2 As ULong > > Wert_1 = 3504088551 > Wert_2 = 86400 > > Ergebnis_1 = Wert_1 / 86400 > Ergebnis_2 = Wert_1 / Wert_2 > > Ergebnis_1 = 429458143 = FALSCH > Ergebnis_2 = 40556 = RICHTIG > > Gruss Christian | |
Antwort schreiben Antworten: Re: Probleme beim Rechnen mit Long-Integer (von Christian - 15.01.2011 16:14) |
Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum