Chyba v jednoduchém výpočtu – .NET – Fórum – Programujte.com
 x   TIP: Přetáhni ikonu na hlavní panel pro připnutí webu

Chyba v jednoduchém výpočtu – .NET – Fórum – Programujte.comChyba v jednoduchém výpočtu – .NET – Fórum – Programujte.com

 
Hledat
Moderní platforma pro vytvoření vašeho nového webu – Wix.com.
Nyní už můžete mít web zdarma.
Vybavení pro Laser Game
Spuštěn Filmový magazín

Spuštěný nový filmový web Filmožrouti.cz — vše o Avengers, Pacific Rim, Thor, Star Wars…
Roman
~ Anonymní uživatel
116 příspěvků
6. 4. 2010   #1
-
0
-

Netušíte, proč mi tento výpočet v C# vychází 0, když to musí podle kalkulačky vyjít 1:

label1.Text = Convert.ToString( Math.Pow(11, 17 - 1) % 17);

Nahlásit jako SPAM
IP: 217.197.36.–
liborb
~ Redaktor
+18
Guru
7. 4. 2010   #2
-
0
-

Pow pracuje s datovým typem Double, který má sice dvojnásobnou přesnost, ale i tak je omezená. A ty si narazil na omezení, které se týká uložení vysokých (celých) čísel. 11 na 16 je obrovské číslo, kdyby to byl zůstatek na tvém účtu, tak je ti jedno, že se to na konci liší o 1 (ty tisíce miliard předtím ti to hravě vynahradí :smile1: ). Jde prostě o zaokrouhlovací chybu datového typu.

Nahlásit jako SPAM
IP: 85.207.166.–
Zjistit počet nových příspěvků

Přidej příspěvek

Toto téma je starší jak čtvrt roku – přidej svůj příspěvek jen tehdy, máš-li k tématu opravdu co říct!

Ano, opravdu chci reagovat → zobrazí formulář pro přidání příspěvku

×Vložení zdrojáku

×Vložení obrázku

Vložit URL obrázku Vybrat obrázek na disku
Vlož URL adresu obrázku:
Klikni a vyber obrázek z počítače:

×Vložení videa

Aktuálně jsou podporována videa ze serverů YouTube, Vimeo a Dailymotion.
×
 
Podporujeme Gravatara.
Zadej URL adresu Avatara (40 x 40 px) nebo emailovou adresu pro použití Gravatara.
Email nikam neukládáme, po získání Gravatara je zahozen.
-
Pravidla pro psaní příspěvků, používej diakritiku. ENTER pro nový odstavec, SHIFT + ENTER pro nový řádek.
Sledovat nové příspěvky (pouze pro přihlášené)
Sleduj vlákno a v případě přidání nového příspěvku o tom budeš vědět mezi prvními.
Reaguješ na příspěvek:

Uživatelé prohlížející si toto vlákno

Uživatelé on-line: 0 registrovaných, 55 hostů

Podobná vlákna

Zabiti vypočtu v pythonu. — založil Fstekly maltezak

 

Hostujeme u Českého hostingu       ISSN 1801-1586       ⇡ Nahoru Webtea.cz logo © 20032017 Programujte.com
Zasadilo a pěstuje Webtea.cz, šéfredaktor Lukáš Churý