Rundungsfehler Formatbaustein ($Format)?

Dieser Bereich dient dem Austausch über geplante oder bereits realisierte Projekte - von Anwender zu Anwender.
Antworten
TesTneT
Beiträge: 11
Registriert: Dienstag 12. Mai 2020, 07:08

Rundungsfehler Formatbaustein ($Format)?

Beitrag von TesTneT » Donnerstag 3. März 2022, 14:33

Ich mir nicht sicher ob das so soll oder ob es hier ein Problem gibt.

Ich verwende den Format Baustein "$Format(FMT)" zum Runden auf die erst Vorkommastelle (Exponentenübertragung eines Messgerätes muss ganzzahlig sein trotz wackelndem Analogsignal)
Zwischen 2 und 10 funktioniert das wie es soll, 2,4=2 und 2,6=3. Bei Werten zwischen -1 und 1 gibt es dann jedoch Probleme. 0,9999=0.
Im Anhang zwei Bilder um den Aufbau und Ergebnis zu verdeutlichen.

Gelöst wurde das Problem durch Addition des Eingangs mit dem maximalen negativen Wert und nach Rundung wieder Subraktion mit dem selben Wert.
Dateianhänge
Ergebnis.png
Ergebnis.png (47.23 KiB) 1694 mal betrachtet
Aufbau.png
Aufbau.png (39.93 KiB) 1694 mal betrachtet

abacom
Site Admin
Beiträge: 3917
Registriert: Dienstag 23. September 2008, 10:54
Kontaktdaten:

Re: Rundungsfehler Formatbaustein ($Format)?

Beitrag von abacom » Dienstag 8. März 2022, 14:36

FORMATIEREN und KAUFMÄNNISCHES RUNDEN ist nicht das Gleiche.

Runden kann man so:

Float Messwert -> OFFSET(+0,5) -> MATH(INT) -> Ganzahlig kaufmännisch gerundetes Ergebnis
ABACOM support

Antworten

Zurück zu „PROFILAB Kundenprojekte und Aufgabenstellungen“