Chyba v jednoduchém výpočtu – .NET – Fórum – Programujte.com
 x   TIP: Přetáhni ikonu na hlavní panel pro připnutí webu
Reklama
Reklama

Chyba v jednoduchém výpočtu – .NET – Fórum – Programujte.comChyba v jednoduchém výpočtu – .NET – Fórum – Programujte.com

 

Hledá se programátor! Plat 1 800 € + bonusy (firma Boxmol.com)
Roman
~ Anonymní uživatel
113 příspěvků
6. 4. 2010   #1
-
0
-

Netušíte, proč mi tento výpočet v C# vychází 0, když to musí podle kalkulačky vyjít 1:

label1.Text = Convert.ToString( Math.Pow(11, 17 - 1) % 17);

Nahlásit jako SPAM
IP: 217.197.36.–
Reklama
Reklama
liborb
~ Redaktor
+18
Guru
7. 4. 2010   #2
-
0
-

Pow pracuje s datovým typem Double, který má sice dvojnásobnou přesnost, ale i tak je omezená. A ty si narazil na omezení, které se týká uložení vysokých (celých) čísel. 11 na 16 je obrovské číslo, kdyby to byl zůstatek na tvém účtu, tak je ti jedno, že se to na konci liší o 1 (ty tisíce miliard předtím ti to hravě vynahradí :smile1: ). Jde prostě o zaokrouhlovací chybu datového typu.

Nahlásit jako SPAM
IP: 85.207.166.–
Zjistit počet nových příspěvků

Přidej příspěvek

Toto téma je starší jak čtvrt roku – přidej svůj příspěvek jen tehdy, máš-li k tématu opravdu co říct!

Ano, opravdu chci reagovat → zobrazí formulář pro přidání příspěvku

×Vložení zdrojáku

×Vložení obrázku

Vložit URL obrázku Vybrat obrázek na disku
Vlož URL adresu obrázku:
Klikni a vyber obrázek z počítače:

×Vložení videa

Aktuálně jsou podporována videa ze serverů YouTube, Vimeo a Dailymotion.
×
 
Podporujeme Gravatara.
Zadej URL adresu Avatara (40 x 40 px) nebo emailovou adresu pro použití Gravatara.
Email nikam neukládáme, po získání Gravatara je zahozen.
-
Pravidla pro psaní příspěvků, používej diakritiku. ENTER pro nový odstavec, SHIFT + ENTER pro nový řádek.
Sledovat nové příspěvky (pouze pro přihlášené)
Sleduj vlákno a v případě přidání nového příspěvku o tom budeš vědět mezi prvními.
Reaguješ na příspěvek:

Uživatelé prohlížející si toto vlákno

Uživatelé on-line: 0 registrovaných, 111 hostů

 

Hostujeme u Českého hostingu       ISSN 1801-1586       ⇡ Nahoru Webtea.cz logo © 20032016 Programujte.com
Zasadilo a pěstuje Webtea.cz, šéfredaktor Lukáš Churý