Hallo Leute,
ich hab ein Problem.
Wie ihr auf dem Bild sehen könnt, möchte ich eine Zahl anzeigen. Sie wird gespeichert als real64. der Wert ist 8.3. wenn ich nun die Variable wieder abrufe, und in einem Label anzeigen lassen möchte kommt die untere Zahl heraus.
Die Zahl zu fixen funktioniert zwar, dann werden aber immer die vier nachkommastellen angezeigt.
Und wenn ich sie nach dem Fix wieder in eine Real64 convertiere kommt wieder die unten angezeigte Zahl heraus
Was macht Vee hier nur??? Und vor allem, warum macht es das nicht bei jeder Zahl??
Kennt jemand vielleicht das Problem?
MfG
Loki
   

Das ist ein Problem, welches von Agilent auf die interne Fliesskommaberechnung des PC's geschoben wird. ?

Es ist auch mehr ein Anzeigeproblem als ein mathematisches Problem, was besonders Label betrifft.
Alphanummerische Anzeigen werden ja von Haus aus beschnitten.

Als Lösung kannst du das "to string" Objekt benutzen mit WRITE TEXT a REAL64 FIX:3 EOL als Inhalt,
wie in deinem Beispiel, dann bleibt die Anzeige "sauber".