Whitepaper
Der Rundungsalgorithmus in
Chromeleon™ 7
Abstract
In der wissenschaftlichen Publikation von Ergebnissen oder bei der Auswertung von Ergebnissen in der Industrie, stellt das Runden einen Schwachpunkt in der Darstellung von Ergebnissen dar. Mit jeder Rundung geht etwas Präzision des Ergebnisses verloren. Insbesondere im Falle wiederholter Rundungen von bereits zuvor gerundeten Ergebnissen kann so ein erheblicher Fehler resultieren.
Auch bei der Nutzung von Chromeleon™ ist darauf zu achten nicht mit bereits gerundeten Ergebnissen die Berechnung fortzusetzen. Standardmäßig betrifft die Rundung von Ergebnissen in einer Ergebnisspalte nur diese Spalte. Chromeleon™ rechnet im Hintergrund stets mit 16 Nachkommastellen weiter. Gerade bei der Nutzung von Zell- oder Spaltenbezügen, kann es dann jedoch dazu kommen, dass diese Bereitstellung des ungerundeten Ergebnisses verloren geht und es zu einer zweiten Anwendung der Rundung kommt.
In dieser Publikation soll gezeigt werden, wie die Messwerte und Zwischenergebnisse zwar gerundet dargestellt werden, aber zur Berechnung der freigaberelevanten Ergebnisse nicht doppelt gerundet wird. Damit die Ergebnisse auch nach gültigen Standards immer mit der korrekten Anzahl an signifikanten Stellen dargestellt werden, befasst sich diese Publikation auch mit einem Ausblick auf dieses Themengebiet.