Zaintrygowała mnie pewna sprawa w Symfonii Handel 2006c

Piszę raport, gdzie potrzebuję się dowiedzieć, czy wynik dzielenia jest całkowity czy ułamkowy.
Rozwiązuje to reszta z dzielenia, czyli operator %.
Jednak gdy podam liczby zmiennoprzecinkowe (float) to wywala błąd, więc rozumiem, że operator pracuje na liczbach całkowitych.

Więc zabieram się do ominięcia operatora, korzystając z funkcji zaokrąglającej Round.

Oto przykład, gdzie mam błąd:



Komunikat, który mi wyskakuje to "Jest reszta". Gdy liczby są całkowite działa to prawidłowo, jeśli zmiennoprzecinkowe to też działa, ale ten przykład akurat NIE!!
Załamać się idzie.
Zmienna wynik w powyższym przykładzie wyniesie 3.0, zaokrąglony całkowitej jako zmienna też wyniesie 3. Więc 3-3 jest 0 i powinno się pokazać "Brak reszty". Jak dam liczby np. 5.6 i 1.4 to wynikiem będzie całe 4 i pokazuje dobrze. Jak dam 3.9 i 1.3 to też jest dobrze.

ZNALAZŁEM drugi przypadek. To para liczb 3.3 i 1.1

Proszę wklejcie ten krótki raport do Symfonii i przekażcie wyniki, bo się idzie pochlastać.

Dziękuję z góry

Zamiast if..endif dałem select case..end select - niestety to samo w przypadku tych dwóch par liczb. Być może jeszcze jakieś istnieją :(

funkcja zwraca 1 jeżeli jest reszta

Moze warto na wykładach o systemie binarnym czasem sluchac prowadzacego jak mowi o reprezentacji ulamkow dziesietnych w systemie binarnym

dla przykładu 1.4 (dec) to 1.0110(0110)(bin) czyli ulamek okresowy wiec nie jest dokładnie zapisywane jako 1.4 w kompie

zreszta 0.3 ma podobne rozwiniecie co prawda nie okresowe ale za to dość długie

stad moze i handel zle liczy bo procedury na liczbach float zawsze maja takie problemy

stad przy pisaniu takich funkcji dobra praktyka jest zaokraglać

if (round(wynik,2)-round(rwynik,2))==0 then

wiecej na ten temat tutaj:

http://support.microsoft.com/kb/78113/pl


PS a funkcja rafala nie dziala - bo chyba temp nigdzie nie jest w niej obliczany :(

Dziękuje rafal, ale chyba funkcja jest niepełna. Co przedstawia zmienna temp??
Przyznacie, że w moim kodzie powinno być OK, skoro dla szeregu innych parametrów jest dobrze to dlaczego nie jest w przypadku pary 4.2, 1.4 i 3.3 i 1.1?

temp jest typu int.

po przypisaniu wyniku dzielenia do temp w tempie przechowywana jest część całkowita wyniku dzielenia.

Błędem jest uzycie Rounda bo to zaokragla a nie obcina część dziesiętną.[/code]

Masz rację wrob. Próbowałem w Delphi tego samego przykładu i..... to samo. Też uznał, że wyniki tych obliczeń dla 4.2 i 1.4 są różne - czyli jest reszta, choć jej nie ma.

Problem rozwiązałem mnożąc argumenty przez 10, gdyż nie będą to liczby po przecinku więcej jak 1. Ciekawa sprawa

Jeszcze raz dziękuję Panowie.

Pozdrawiam.

kolejne próby :

Nie jest przykład OK. To są liczmy zmienno przecinkowe a one rządzą się swoimi prawami!!! Trzeba je znać

oto drobna modyfikacja Twojego kodu i już jest prawidłowo.



Wystarczy że stwierdzisz ile miejsc znaczących chcesz porównywać.