Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum

Re: Probleme beim Rechnen mit Long-Integer Kategorie: IDE (von PeterS - 15.01.2011 15:34)
Als Antwort auf Probleme beim Rechnen mit Long-Integer von Christian - 15.01.2011 15:10


Hallo Christian,

auch kein Bug. Bei

Ergebnis_1 = Wert_1 / 86400

Macht er eine signed division weil 86400 vorzeichenbehaftet ist. Um dem
Compiler zu zeigen, das eine Zahl unsigned ist mu� ein "U" angehängt werden.

Ergebnis_1 = Wert_1 / 86400U

funktioniert korrekt.

Gruss Peter

> Hallo Peter,
>
> in der IDE 2.12.0.10 gib es noch Probleme beim Rechnen mit Long-Integer.
>
>     Dim Wert_1 As ULong
>     Dim Wert_2 As ULong
>
>     Dim Ergebnis_1 As ULong
>     Dim Ergebnis_2 As ULong
>
>     Wert_1 = 3504088551
>     Wert_2 = 86400
>
>     Ergebnis_1 = Wert_1 / 86400
>     Ergebnis_2 = Wert_1 / Wert_2
>
> Ergebnis_1 = 429458143     =  FALSCH
> Ergebnis_2 = 40556         =  RICHTIG
>
> Gruss Christian


    Antwort schreiben


Antworten:

Re: Probleme beim Rechnen mit Long-Integer (von Christian - 15.01.2011 16:14)