Word Overflow Kategorie: Programmierung Basic (von Stefan - 8.09.2012 7:47) | ||
| ||
eine simple Rechnung mit Word Variablen führt bei mir jedesmal ab 2^15 zu Overflow: #define Cons 4464 Sub Test() Dim W As Word Dim I As Integer For I = 0 To 11 W = I * Cons W = W / Cons Print_Zahl(W) : Put(Tab) : Print_Zahl(W < 20) : NEWLINE() Next End Sub mit dem Ergebnis: 0 1 1 1 2 1 3 1 4 1 5 1 6 1 7 1 65530 0 ab hier scheint intern ein Integer Overflow einzutreten. Die Word Grenze 65531 0 ist noch lange nicht erreicht. Das Flag wird ausgegeben, um auszuschliessen 65532 0 dass der Fehler bei der Zahlendarstellung eintritt. 65533 0 Was machen? | ||
Antwort schreiben Antworten: ![]() ![]() ![]() ![]() |
Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum