Hallo!

Ich habe ein ziemlich banales Problem, finde aber keine Lösung.
Ich bekomme eine Real64 Zahl immer als "100m" angezeigt. Ich möchte aber gerne 0.1 haben, da es sich um kA / kV handelt. Das sieht dann etwas merkwürdig aus. Wie bekomme ich das hin?
Danke!

Gruß obo

im Prinzip ein TOString Objekt nehmen und das Format vorgeben...

Es handelt sich bei der Anzeige um einen y-Plot, also ein Zeitdiagramm. Die -100m stellen dabei den Minimalwert der y-Achse dar.
Statt einer Real64 Zahl einen String zu verwenden hilft da leider nicht. Das Diagramm zeigt weiterhin -100m.
Habt ihr noch weitere Ideen?

In den Properties zu deinem Objekt - ist es ein XY-Plot, oder XY-Trace ? - kannst du die Formate und die Stellen hinterm Komma vorgeben.
z.B. Fractional Digits mit 1...
Um sicher zu gehen :Welche VEE Version ?

Ich benutzte Version 6.2.
Es handelt sich um das Object "Waveform (Time)".
Ich habe schon versucht, in den Properties unter der Registerkarte "Numbers" etwas umzustellen, das hat aber Alles nichts geholfen, egal ob dort Scientific, Standart, Engineering oder Fixed eingestellt war. Auch die Significant Digits auf 1 zu stellen half nicht.
Wenn ich dort 200m habe ist es kein Problem, 0.2 anzeigen zu lassen, nur bei 100m will er einfach nicht, egal was ich mache. Langsam glaube ich, das geht nicht?!

Tja, Version 6.2 , wo doch die VErsion 9.2 die aktuelle ist- sel ber schuld ;-))

Aber es muesste per rechter Maustaste auf das Objekt gehen, dann die Fractionals einstellen.
Was du wohl oben gemacht hast, war das generelle Zahlenformat in den Preferences...

Bitte mal Handbuch lesen. HAb leider kein 6.2 mehr ......