Jump to content
  • 0

Round-functie onder FM Pro 5.0 en .5


Jimjams

Question

Posted

Ik heb iets vervelends aan de hand.

 

Ik heb een toepassing die binnen ons bedrijf door FM Pro 5.0 en Fm Pro 5.5-gebruikers onder Windows NT 4.0 draait. De output van deze toepassing is

een offerteprijs in euros. Ik kreeg echter onlangs een reactie van een gebruiker dat zijn resultaat afweek van die van een andere gebruiker wat in feite onmogelijk is aangezien de databases dezelfde zijn.

Na enig onderzoek kwam ik echter tot de volgende vaststelling;

Onder FM Pro 5.0 geeft de Round-functie een ander resulaat dan onder FM Pro 5.5!

Als ik bijvoorbeeld Round( 0,99 ; 0) onder FM Pro 5.0 ingeef, is het resulaat 0 terwijl dit onder FM Pro 5.5 het resultaat 1 geeft. Ik heb dit uitgetest op dezelfde machine waarbij ik eerst FM Pro 5.0 heb geïnstalleerd, de test heb uitgevoerd en vervolgens FM Pro 5.5 geïnstalleerd en dezelfde oefening heb gedaan.

Voor alle duidelijkheid: ik maak geen gebruik van functionaliteiten die enkel binnen FM Pro 5.5 beschikbaar zijn.

 

Iemand enig idee wat er aan de grondslag van dit drama kan liggen? :cry:

Recommended Posts

  • 0
Posted

In het Scriptology boek (oude versie) staat te lezen :

Round uses 5 as the value to round up.

en dan als voorbeeld :

Round(NumberField,2) = 2.56

presuming the field NumberField contains 2.56984

 

tiens, tiens.

  • 0
Posted

Even wat test resultaten op mijn Macje:

 

FileMaker Pro 3 (Classic Mode): Round( 0,99 ; 0) = 1

FileMaker Pro 4.1 (Classic Mode): Round( 0,99 ; 0) = 1

FileMaker Pro 5.0 (Classic Mode): Round( 0,99 ; 0) = 1

FileMaker Pro 5.5 (OS X): Round( 0,99 ; 0) = 1

FileMaker Pro 6.0 (OS X): Round( 0,99 ; 0) = 1

 

FileMaker maakt normaal gebruik van de calculatietoolbox van het systeem (Excel bv niet), dus ik geloof Jimjams best dat er onder NT 4 een ander resultaat uitkomt.

 

Als je naar een verklaring zoekt, kan ik er wel 1 verzinnen.

Stel bv dat NT 4 op een andere manier afrond, en dat wordt doorgegeven als een bug. De bug wordt "gefixed", m.a.w. de functie rond nu af zoals op de andere operating systemen.

 

Ondertussen ben je natuurlijk "gesjareld" zoals ze dat bij ons zeggen... :cry:

  • 0
Posted

Als JimJams gelijk heeft en hetgeen hij beschrijft reproduceerbaar is, dan zitten we hier inderdaad met een (lokaal) drama. Toch verwondert het me dat we nu voor het eerst hiervan horen. Op alle Windows-versies die hier draaien, krijg ik enkel normale resultaten (Win 3.11, Win95, Win 98, Win ME en Win XP).

  • 0
Posted

Mijn eerste idee was - floating point probleem !!!

 

Maar na het lezen van de uitgevoerde testjes ben ik er niet meer zo zeker van.

Dat zou dan enkel kunnen gebeuren bij meer dan 15 decimale posities (number precision)

En dat is hier duidelijk niet het geval, denk ik.

Het zou mij verbazen dat een offerteprijs uiteindelijk meer dan 15 posities heeft, zelfs in 64 bit.

 

Als er al veel eerder in het systeem een Round functie gebruikt werd, kan het eigenlijk wel iets te maken hebben met het floating point indien deze mee verwerkt worden om het uiteindelijke resultaat te bekomen.

 

We weten dat computers zowel het 'fixed point' als de 'floating point' systeem gebruikt en selectief te werk gaat bij sommige functies.

Niet alle getallen worden voorgesteld/gebruikt door hun logaritmische waarde, hoe zou 2 getallen kunnen optellen ?

 

Indien er echter een deling gebruikt wordt bij het samenstellen van de uiteindelijke uitkomst zou het daar kunnen liggen.

Maar dan moet de uitkomst dezelfde zijn in de verschillende programma's/versies op hetzelfde toestel.......

 

Indien niet.... terug naar af. :cry:

  • 0
Posted

Ik zit dus echt compleet vast nu.

 

Ik heb ondertussen zowat alles uitgeprobeerd wat er in mij opkwam maar stuit steeds op hetzelfde resultaat. Dat de files corrupt zijn kan ook de reden niet zijn want ik heb een volledig nieuw filetje aangemaakt met 2 velden; 1 simpel leeg nummer-veld dat ik via een script met setfield de waarde Round(0,99 ; 0) meegeef en 1 calculatie-veld met als definitie Round(0,99 ; 0). Beiden geven als resultaat 0!

Ik verwijder vervolgens FM Pro 5.0 en installeer 5.5 en het resultaat wordt 1! Nog even benadrukken dat dit op dezelfde machine gebeurt en dat ik dit probleem dus perfect kan repliceren. Als laatste controle ga ik deze test ook nog bij een aantal

andere 5.0-gebruikers uitproberen maar als ik hier geen oorzaak voor vind, zie ik mij verplicht om voor alle 5.0 gebruikers een 6.0 licentie aan te kopen.

 

Kan er iemand mij vertellen of er nog upgrades te verkrijgen zijn van 5.0 naar 5.5 of eventueel van 5.0 naar 6.0? Op de FM-website vind ik er niets van terug.

  • 0
Posted

Wat de beschikbaarheid van vorige versies betreft: op de laatste prijslijst is enkel nog sprake van versie 6, behalve voor de server-versie (5.5)

  • 0
Posted

Beste JimJams

 

Ik stel voor je naam te veranderen in Jam(mer)Jam(mer)s, want ik krijg dat hier in geen enkele FileMaker gereproduceerd, ook niet in 5.0.

 

Voor we verder gaan: probeer eens met

 

SetField(Round(299;-2)

 

Welk resultaat krijg je dan? Het zou misschien wel eens kunnen dat je de besmette komma's van Leo hebt overgekregen.

 

Laat iets weten !

  • 0
Posted

De Round-functie werkt in het geval dat je aanhaalt dus NIET. Alleen, niemand krijgt dat tot hiertoe blijkbaar gereproduceerd. In hoeverre kan je nagaan of het probleem machine specific is? Het is in elk geval niet FileMaker 5.0 specific !

Het verwondert me ook dat er zo weinig reacties komen op deze thread !

  • 0
Posted

Ik heb hetzelfde probleem tot dusver op 2 verschillende machines vastgesteld en

ga het zometeen nog op een aantal andere uitproberen.

 

Ik laat nog iets weten.

  • 0
Posted

Heb net de test gedaan (299; -2)

 

in FM 5.0 V3 - Win 98 SE = 300

 

in FM 4.0 V1 - Win 98 SE = 300

 

zelfde toestel.

 

in FM 4.0 V1 - Win 3.11 = 300

 

ander toestel.

 

FM 5.5 - Win 98 SE = 300

 

op derde toestel.

  • 0
Posted

De cirkel vernauwt!

 

Ik heb net dezelfde test op een ander toestel uitgevoerd (FM 5.0 onder Win NT 4.0) en daar doet ie het wel correct!

Conclusie: De twee toestellen waarop ik het tot dusver heb vastgesteld zijn op

een of andere manier besmet.

Ik blijf verder zoeken...

  • 0
Posted

Ik denk dat JeanWM's antwoord het dichtst bij de waarheid zit. Ik herinner me nu dat een klant een aantal jaren geleden een soortgelijk probleem had op een machine met een niet-Intel processor. In zijn opstelling stonden twee computers naast elkaar, zelfde file gehost door een server, zelfde scherm, zelfde gegevensinvoer, en ander calc-resultaat. We hebben dat toen opgelost door die machine te vervangen. Dat ik daar niet eerder aan gedacht heb...

  • 0
Posted

OORZAAK GELOCALISEERD!

 

Volgende test uitgevoerd:

> Splinternieuwe PC geformateerd (Win NT 4.0 sp 6)

> Filemaker Pro 5.0v1 geïnstalleerd

> Test uitgevoerd - resultaat van Round (0,99 ; 0) = 0!

> patch voor update van 5.0v1 naar 5.0v3 geïnstalleerd

> Test uitgevoerd - resultaat van Round (0,99 ; 0) = 1!

 

Zo simpel was dat.

 

Je moet er verdorie toch maar op het juiste moment aan denken... :wink:

 

Allemaal nog bedankt voor de reacties. Die sturen je uiteindelijk toch wel in de

goede richting.

  • 0
Posted

Goed dat het nu werkt.

 

Als we op de info-pagina's van FileMaker gaan kijken ( http://www.filemaker.com/support/updaters.html ), dan vinden we echter niets over dit fenomeen, noch in de updater van 5.0v1 naar 5.0v2, noch in de updater naar 5.0v3.

Zo'n belangrijke bug zou toch zeker gesignaleerd moeten zijn!

 

Samengevat:

1) Je zat met een ernstig en onverklaarbaar probleem.

2) Het lijkt opgelost te zijn na een updating.

3) Nergens in de FileMaker-gemeenschap is je probleem nog gesignaleerd en op Clarify vinden we niemand die het kan reproduceren.

4) De FileMaker-updater vermeldt alle opgeloste bugs, maar spreekt totaal niet over dit geval.

 

Ik blijf dus met een onopgeloste vraag zitten, en moet dus weer terug naar mijn vorige posting i.v.m. de onbetrouwbaarheid van computers en m...

  • 0
Posted

Ik ben het volkomen met je eens AVD.

 

Alle test die ik uitgevoerd heb wijzen er echter op dat het wel degelijk een bug in FM 5.0v1 was: Onder FM 5.5v1 gebeurde de berekening wel correct en de patch loste het probleem ook op. Dat het ontbreekt in de buglist vind ik ook onbegrijpelijk want als het erin had gestaan had ik nooit FM 5.0 geïnstalleerd zonder de patch te voorzien.

 

Dat niemand deze fout kan reproduceren blijft ook voor mij een brainteaser...:?

  • 0
Posted

Vind het fijn probleem is opgelost, laat dat duidelijk zijn.

 

 

Uit pure curieuze balorigheid FM 5.0 V1 geïnstalleerd....

 

Guess what.....

 

Test (Round,299,-2) = 300 !!!

 

Slaag er niet in de fout te reproduceren.......

  • 0
Posted

WOW !!!!

 

Wacht effe.....

 

Round (299 ; -2) geeft 300

 

MAAR

 

Round(0,99 ; 0) geeft 0 !!!!!

 

En nu ?

 

FM4 geeft 1 op hetzelfde toestel.

En ook FM 5.0 V3 - FM 5.5

  • 0
Posted

Blij dat iemand het kan reproduceren, JeanWM.

 

Ik begon mij eenzaam te voelen.... :wink:

 

Zoals AVD al stelde vind je op de lijst van bugfixes hierover niets terug. Het enige wat er misschien nog iets mee te maken zou kunnen hebben, is het probleem van de leading zero's dat door de updater verholpen wordt.

 

't Is maar een idee...

  • 0
Posted

Dat had ik inderdaad ook al gemerkt maar het blijft fout. Bovendien had ik geen zin om in mijn toepassing alle Round()-functies aan te passen naar

Round(XXXX ; 1).

In de helpfile staat trouwens duidelijk:

 

Returns the supplied number rounded off to the specified number of decimal places.

 

Round(0,99 ; 1) betekent dus af ronden naar 1 decimaal getal. Dit laat mijns inziens geen ruimte voor interpretatie

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Answer this question...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...