Nepřesnost desetinných čísel – Pascal – Fórum – Programujte.com

Mám následující program:

program desc;

uses crt;

var zacatek, konec, krok, x: double;



begin

   clrscr;



   zacatek:=-1;

   konec:=1;

   krok:=0.2;



   x:=zacatek;

   while x <= konec do begin

      x := x + krok;

      writeln(x);

   end;



   readln;

end.

v pocitaci neexistuje presne desetinne cislo... muzes nicmene zaokrouhlovat

Anebo použít tolik bitů, kolik je zrovna potřeba (zrovna jsem o tom četl blogpost http://blogs.msdn.com/oldnewthing/archive/2004/05/25/141253.aspx)

To Quiark : nebo si me privedl na myslenku pouzit cely cisla .. akorat pred vypsanim to vydelit 10x

podobne to pouzivam v jednocipech... precijen celociselna aritmetika je mnohem rychlejsi

To ale potom nemáš floating point :)

To Quiark : to uz zalezi na tom na co potrebuje ten floating point... pokud chce presnost tak je to lepsi :D

Potřebuju to na kreslení grafů, a tím pádem na desetinných místech celkem záleží.
V Pascalu asi není pořádná funkce na zaokrouhlení, pouze jednoduché round. Jak tedy správně zaokrouhlit, abych zase nedostal nepřesné číslo? Mám pocit, že když použiju nějaké běžné operace, že to zas nebude přesné...

jestli to vykreslujes tak stejne mas nejvetsi presnost na jeden pixel... tim to ze bude nula o 1e-16 vedle je asi vcelku jedno.. stejne to zaokrouhlis na cele jednotky tj round je akorat

A co když chci třeba graf funkce x/x? Chci tam ten chybějící pixel pro nulu. Nebo graf funkce signum...

to si musis osetrit treba vyjimkou... kdyz to nejde tak proste vynechas

Ano, to také mám v plánu, jenže pokud nebude argumentem pravá nula, nepůjde to.

To tom*p : no jak rikam da se pouzit krokovani pomoci celych cisel... kdyz das -100 .. 100 a pokazdy to vydelis 5.0 ... tak vyjde -20, -19.8 .... a melo by to byt presnejsi

Když nad tím přemýšlím podruhé, asi to bude nejlepší řešení. :)