| @PeterS Genauigkeit von floating point Zahlen Kategorie: Programmierung C (von Hannes - 23.08.2007 9:15) | ||
| ||
|
Hallo Peter, mit wieviel Stellen hinter dem Komma rechnet der Mega32/128 beim Datentyp float? Bzw. wieviel Nachkommastellen, in Bezug auf die Zahlengrösse, ist sinnvoll anzugeben? Mit was für einem Algorithmus konvertiert der Mega eine Float-Zahl in 4Byte? Ich möchte evtl. Float-Zahlen im I2C_EEPROM speichern. Gruss ______________________________________________________________________________ void main(void) { float zahl1, zahl2, zahl3, zahl4, zahl5; zahl1= 65123.456789; zahl2= 123.456789; zahl3= 0.987654; zahl4= zahl1 + zahl1; // genau: 130246,913578 zahl5= zahl2 * zahl3; // genau: 121,932591483 //Interpreter gestartet - 2kb RAM Msg_WriteFloat(zahl1); Msg_WriteChar(0x0D); //65123.45703 Msg_WriteFloat(zahl2); Msg_WriteChar(0x0D); //123.45678 Msg_WriteFloat(zahl3); Msg_WriteChar(0x0D); //0.98765 Msg_WriteFloat(zahl4); Msg_WriteChar(0x0D); //130246.91406 Msg_WriteFloat(zahl5); Msg_WriteChar(0x0D); //121.93257 } | ||
Antwort schreiben Antworten:  Re: @PeterS Genauigkeit von floating point Zahlen (von PeterS - 5.09.2007 23:30) | ||
Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum