Seite 1 von 1

Nachkommastellen einstellen

Verfasst: Freitag 29. Oktober 2010, 17:36
von tmm
Hallo,

ich möchte nach einer Leitfähigkeitsmessung den Messwert mit einem Faktor multiplizieren und anschließend das Ergebnis (was durch den krummen Korrekturfaktor mehrere Nachkommastellen hat) innerhalb der Berechnung auf 2 Nachkommastellen runden.

Eine Formel dafür habe ich nicht gefunden - habe ich was übersehen - oder geht das nur sehr umständlich zu rechnen ??

Hat jemand eine gute Idee ?

Gruß MM

Re: Nachkommastellen einstellen

Verfasst: Freitag 29. Oktober 2010, 17:41
von abacom
Grundsätzlich - so denke ich - sollte erst einmal genau gerechnet werden und erst dann gerundet werden,
wenn der Wert zur Anzeige gebracht wird. Dort stehen dann ja Formatierungsoptionen zur Verfügung.
Falls ich falsch liege, bitte den Anwendungsfall genau schildern.

Re: Nachkommastellen einstellen

Verfasst: Freitag 29. Oktober 2010, 18:12
von tmm
Hallo Abacom,

das mit dem Runden zum Schluß sehe ich natürlich auch so.

Meine Frage kommt durch diesen "Fall":

Ich möchte das Ergebnis als Text in die Anzeigen-Tabelle einlesen, weil unter bestimmten Bedingungen dieser Wert überhaupt nicht erscheinen soll. Wenn das Tabellenfeld als Zahl mit 2 Nachkommastellen formatiert wird, dann habe ich in dem Fall "kein Wert erwünscht" 0,00 als Tabelleneintrag. Formatiere ich das Tabellenfeld als Textfeld, dann kann ich meine Auswahl "Wert / kein Wert (=leeres Feld)" über ein "Textrelais" treffen. Dabei habe ich nun u. U. zu viele Nachkommastellen - und die möchte ich jetzt vor dem Eintrag in die Tabelle auf 2 Stellen Runden.

Gibt es evtl. die Möglichkeit einen Eintrag mit 0,00 zu unterdrücken (auslöschen)?

Gruß aus Darmstadt MM

Re: Nachkommastellen einstellen

Verfasst: Samstag 30. Oktober 2010, 08:03
von tmm
Hallo,

hat sich erledigt, habe meine Ergebnisse mit §FMT (da kann ich Runden wie ich es brauche) umgewandelt und dann über ein Textrelais bei Bedarf in die Tabelle übernommen.

Gruß MM