Probleme mit Modulo [Erledigt]

Alle Fragen um die Programmierung, die sich sonst nicht kategorisieren lassen. Von Makro bis Codeblock, von IF bis ENDIF

Moderator: Moderatoren

Antworten
Benutzeravatar
Jan
Marvin
Marvin
Beiträge: 14641
Registriert: Fr, 23. Sep 2005 18:23
Wohnort: 49328 Melle
Hat sich bedankt: 21 Mal
Danksagung erhalten: 87 Mal
Kontaktdaten:

Probleme mit Modulo [Erledigt]

Beitrag von Jan »

Hallo,

gerade stolpere ich über ein Problem mit einer Modulo-Berechnung für eine Barcode-Berechnung. Die betreffende Zeile lautet

Code: Alles auswählen

nCheckSum := nCheckSum % 103
Ich sehe im Debugger, das ich da mit nCheckSum = 1235 rein gehe. Wäre also 1235 / 103 = 11,990291262. Von daher sollte also nCheckSum nach dieser Zeile einen Wert von 99 haben. Das ist aber reproduzierbar immer 102.

Das funktioniert eigentlich immer korrekt. Nur in sehr seltenen Ausnahmefällen wie diesem jetzt nicht. Dabei nützt es auch nichts, wenn ich das Resultat der Berechnung nicht in die gleiche Variable zurück schreibe, sondern in eine andere.

System ist Windows 10 32 Bit und Xbase++ 2.0

Jan
Mitglied der XUG Osnabrück
Mitglied der XUG Berlin/Brandenburg
Mitglied des Deutschsprachige Xbase-Entwickler e. V.
Benutzeravatar
Tom
Der Entwickler von "Deep Thought"
Der Entwickler von "Deep Thought"
Beiträge: 9345
Registriert: Do, 22. Sep 2005 23:11
Wohnort: Berlin
Hat sich bedankt: 100 Mal
Danksagung erhalten: 359 Mal
Kontaktdaten:

Re: Probleme mit Modulo

Beitrag von Tom »

Nö. 11 x 103 ist 1133. 1235 - 1133 ergibt 102
Herzlich,
Tom
georg
Der Entwickler von "Deep Thought"
Der Entwickler von "Deep Thought"
Beiträge: 2823
Registriert: Fr, 08. Feb 2008 21:29
Hat sich bedankt: 95 Mal
Danksagung erhalten: 13 Mal

Re: Probleme mit Modulo

Beitrag von georg »

Liebe Grüsse aus der Eifel,

Georg S. Lorrig
Redakteur der Wiki des Deutschprachigen Xbase-Entwickler e.V.
Benutzeravatar
Jan
Marvin
Marvin
Beiträge: 14641
Registriert: Fr, 23. Sep 2005 18:23
Wohnort: 49328 Melle
Hat sich bedankt: 21 Mal
Danksagung erhalten: 87 Mal
Kontaktdaten:

Re: Probleme mit Modulo

Beitrag von Jan »

OK. Hab den Fehler gefunden. Mathe war schon immer ein schwaches Fach bei mir. Ansonsten hätte ich sofort gesehen, das der Fehler nicht in der Modulo-Berechnung lag sondern in der Berechnung der Checksumme des Barcodes. Der Schreiber des Codes hat das durch Wandlungen von Barcode-Positionen nach ASCII-Positionen und zurück ein wenig verkompliziert, und da kam es dann auch zu dem Fehler.

Danke für Eure Hinweise, die mich von dem Verrennen in die falsche Richtung zurückgeholt haben und so die Möglichkeit geschaffen haben, mal korrekte zu suchen.

Jan
Mitglied der XUG Osnabrück
Mitglied der XUG Berlin/Brandenburg
Mitglied des Deutschsprachige Xbase-Entwickler e. V.
Antworten