Automatische Rundung einer 10-st Zahl

[Werner]

Hi!

Hier habe ich noch zum Jahresende eine kleine Nuss zu kancken:

Ich möchte eine 10 st. Personalnummer wie folgt einlesen:

public persnr1
store 0 to persnr1

@ 10,10 get persnr1 picture "##########" valid (persnr1 >= 0)

Sobald diese Zahl größer als 2.147.450.897 ist, wird diese automatisch auf 9 Stellen gerundet: 214.749.090!

Kleinere Zahlen werden richtig 10-stellig weiterverarbeitet, größere dagegen immer auf 9 Stellen gerundet.

Das kann doch wohl nicht wahr sein?

Gruß Werner

[AUGE_OHR]

Kleinere Zahlen werden richtig 10-stellig weiterverarbeitet, größere dagegen immer auf 9 Stellen gerundet.

da du 3 Stellen hinter dem Komma hast

Code: Alles auswählen

SET DECIMALS TO 3

[Jan]

Jimmy,

wo sind da drei Stellen hinter welchem Komma?

Jan

[DelUser01]

Hallo Werner

im Notfall mache die Eingabe über String:

Code: Alles auswählen

cPersNr1 := PadL( Str( nPersNr1 , 10 ) , 10 )
@ Get nX,nY Get cPersNr1 Picture "##########" Valid Val( cPersNr1 ) >= 0
Read
Clear Gets
nPersNr1 := Val( AllTrim( cPersNr1 ) )
(Code nicht getestet...)

und schaue was rauskommt.
Habe in allen Programmen Set( _SET_DECIMALS , 16 ) - aber ob das was an Deinem Problem ändert...?

[Jan]

Hallo Werner,

zwei Fragen dazu:

• Warum ist die Variable PUBLIC? Könnte die eventuell mit einer PUBLIC mit gleichem Namen irgendwie kollidieren? Hab ich leider schon erlebt.
• Warum Picture #? Wenn das doch sowieso nur mumerische werden soll, würde ich die 9 nehmen.

Jan

[AUGE_OHR]

wo sind da drei Stellen hinter welchem Komma?

em ... äh ... Punkt aber kein Komma ...

[AUGE_OHR]

Code: Alles auswählen

public persnr1
store 0 to persnr1

@ 10,10 get persnr1 picture "##########" valid (persnr1 >= 0)

Sobald diese Zahl größer als 2.147.450.897 ist, wird diese automatisch auf 9 Stellen gerundet: 214.749.090!

nun wollte ich es wissen und habe diesen vollständigen Code

Code: Alles auswählen

PROCEDURE MAIN
LOCAL persnr1 := 2147450897+100

   @ 10,10 get persnr1 picture "##########" valid (persnr1 >= 0)
   READ
   CLEAR GETS

   ? persnr1
   WAIT
RETURN

wo wird da was "gerundete"

[Herbert]

Du gelangst an die 4-Byte-Grenze (0 bis 4294967296), wenn du die auch Minus tolerierst die Hälfte bei 2147483648.
Warum dann schon bei 2.147.450.897 Ungenaues kommt, ist nicht ganz klar. Aber der "Fehler" ist da zu suchen.

[Tom]

Ich würde für Personalnummern und ähnliche Merkmale nie die numerische Repräsentation wählen, sondern immer die als Zeichenkette(n). Gerade bei sehr langen teilnumerischen Merkmalen (bsp. IBANs) erleichtert es das spätere Lesen ungemein, wenn man Trennzeichen (Leerzeichen, Punkte, Bindestriche usw.) eingeben kann. Über eine entsprechende Picture-Klausel lässt sich das bequem steuern. Davon abgesehen gibt es in solchen Bereichen nicht selten Merkmale mit führenden Nullen, die sich als numerische Werte überhaupt nicht darstellen lassen.