Seite 1 von 1

Rundungsfehler Formatbaustein ($Format)?

Verfasst: Donnerstag 3. März 2022, 14:33
von TesTneT
Ich mir nicht sicher ob das so soll oder ob es hier ein Problem gibt.

Ich verwende den Format Baustein "$Format(FMT)" zum Runden auf die erst Vorkommastelle (Exponentenübertragung eines Messgerätes muss ganzzahlig sein trotz wackelndem Analogsignal)
Zwischen 2 und 10 funktioniert das wie es soll, 2,4=2 und 2,6=3. Bei Werten zwischen -1 und 1 gibt es dann jedoch Probleme. 0,9999=0.
Im Anhang zwei Bilder um den Aufbau und Ergebnis zu verdeutlichen.

Gelöst wurde das Problem durch Addition des Eingangs mit dem maximalen negativen Wert und nach Rundung wieder Subraktion mit dem selben Wert.

Re: Rundungsfehler Formatbaustein ($Format)?

Verfasst: Dienstag 8. März 2022, 14:36
von abacom
FORMATIEREN und KAUFMÄNNISCHES RUNDEN ist nicht das Gleiche.

Runden kann man so:

Float Messwert -> OFFSET(+0,5) -> MATH(INT) -> Ganzahlig kaufmännisch gerundetes Ergebnis