Re: @PeterS Genauigkeit von floating point Zahlen Kategorie: Programmierung C (von PeterS - 5.09.2007 23:30) | |
Als Antwort auf @PeterS Genauigkeit von floating point Zahlen von Hannes - 23.08.2007 9:15
| |
> Hallo Peter, > > mit wieviel Stellen hinter dem Komma rechnet der Mega32/128 beim Datentyp float? Sorry Hannes, hatte Deinen Eintrag bisher übersehen. Schick doch einfach mail an ccpro@gmx.de. > Bzw. wieviel Nachkommastellen, in Bezug auf die Zahlengrösse, ist sinnvoll anzugeben? > > > Mit was für einem Algorithmus konvertiert der Mega eine Float-Zahl in 4Byte? Ich möchte evtl. > Float-Zahlen im I2C_EEPROM speichern. Ich benutze eine Library die 4 byte floating point Zahlen nach IEEE 754 verwendet. Gruss Peter > > Gruss > > > > > > > ______________________________________________________________________________ > > void main(void) > { > float zahl1, zahl2, zahl3, zahl4, zahl5; > > > zahl1= 65123.456789; > zahl2= 123.456789; > zahl3= 0.987654; > > zahl4= zahl1 + zahl1; // genau: 130246,913578 > zahl5= zahl2 * zahl3; // genau: 121,932591483 > > > //Interpreter gestartet - 2kb RAM > Msg_WriteFloat(zahl1); Msg_WriteChar(0x0D); //65123.45703 > Msg_WriteFloat(zahl2); Msg_WriteChar(0x0D); //123.45678 > Msg_WriteFloat(zahl3); Msg_WriteChar(0x0D); //0.98765 > Msg_WriteFloat(zahl4); Msg_WriteChar(0x0D); //130246.91406 > Msg_WriteFloat(zahl5); Msg_WriteChar(0x0D); //121.93257 > > > > } > > | |
Antwort schreiben Antworten: |
Zur Übersicht - INFO - Neueste 50 Beiträge - Neuer Beitrag - Suchen - Zum C-Control-I-Forum - Zum C-Control-II-Forum