Word Overflow Kategorie: Programmierung Basic (von Stefan - 8.09.2012 7:47) | ||
| ||
eine simple Rechnung mit Word Variablen führt bei mir jedesmal ab 2^15 zu Overflow: #define Cons 4464 Sub Test() Dim W As Word Dim I As Integer For I = 0 To 11 W = I * Cons W = W / Cons Print_Zahl(W) : Put(Tab) : Print_Zahl(W < 20) : NEWLINE() Next End Sub mit dem Ergebnis: 0 1 1 1 2 1 3 1 4 1 5 1 6 1 7 1 65530 0 ab hier scheint intern ein Integer Overflow einzutreten. Die Word Grenze 65531 0 ist noch lange nicht erreicht. Das Flag wird ausgegeben, um auszuschliessen 65532 0 dass der Fehler bei der Zahlendarstellung eintritt. 65533 0 Was machen? | ||
Antwort schreiben Antworten: Re: Word Overflow (von Stefan - 8.09.2012 9:24) Re: Word Overflow (von Stefan - 9.09.2012 21:34) Re: Word Overflow (von ThomasK - 10.09.2012 0:08) Re: Word Overflow (von Stefan - 10.09.2012 12:42) |
Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum