Skocz do zawartości
Kyle

Mój program zwraca błędny wynik mnożenia ułamka

Rekomendowane odpowiedzi

Witajcie

 

Napisałem program kalkulator, zmieniłem zmienne liczbowe z float, na double i 0,2 x 2 = 0,400000005960464 ... zamiast 0,4. Co może być powodem? Przy float wynik jest prawidłowy. Mam win7 x64, .NET v4.5, CPU i5 2400, kompiluję przy pomocy SharpDevelop 4.3.1 - jeśli może to mieć jakieś znaczenie.

 

Rozwiązałem problem - w dalszej części programu jeszcze operowałem na float ... nie zauważyłem tego (tak to jest jak się dawno pisało program). Po zmianie w pozostałych częściach kodu na double, wyniki są prawidłowe.

Edytowane przez Kyle

Udostępnij tę odpowiedź


Odnośnik do odpowiedzi
Udostępnij na innych stronach

Dołącz do dyskusji

Możesz dodać zawartość już teraz a zarejestrować się później. Jeśli posiadasz już konto, zaloguj się aby dodać zawartość za jego pomocą.

Gość
Dodaj odpowiedź do tematu...

×   Wklejono zawartość z formatowaniem.   Przywróć formatowanie

  Dozwolonych jest tylko 75 emoji.

×   Odnośnik został automatycznie osadzony.   Przywróć wyświetlanie jako odnośnik

×   Przywrócono poprzednią zawartość.   Wyczyść edytor

×   Nie możesz bezpośrednio wkleić grafiki. Dodaj lub załącz grafiki z adresu URL.

Ładowanie


×
×
  • Dodaj nową pozycję...