Zobrazit plnou verzi příspěvku: Chyba při odečítání v Excelu

Peter Jirat
09.03.2015, 18:47
Jednoduchý úkon - odečíst dvě čísla mezi sebou v řádech milionů a ejhle chyba na vzdáleném desetinném místě. Že mi to udělá Autocad s tím člověk počítá ale u takhle "malých" čísel už i v Excelu:F1 = -1*A1+849000

johny
09.03.2015, 20:29
Excel má přesnost na 15 cifer. Mimochodem, stejnou jako Autocad.http://en.wikipedia.org/wiki/Numeric_precision_in_Microsoft_Excel

johny2015-03-09 21:14:18

hlusiakov
09.03.2015, 20:35
Chyba to není, je to jen nepřesnost způsobená tím, že čísla jsou sčítána v binární podobě ;)

Vladimír Michl
09.03.2015, 21:21

Přesně tak, přesnost Excelu i AutoCADu je daná binární reprezentací reálných čísel. Ta teoretická přesnost zhruba 15 platných cifer odpovídá vašemu příkladu. Viz též:https://support.microsoft.com/kb/78113http://www.cadforum.cz/cadforum/qaID.asp?tip=1066 

Peter Jirat
10.03.2015, 09:16
Díky, syn studuje nanotechnologie, tam už je 10na-10 základní jednotkou :-) Mne jen zaskočilo, že se mi ta nepřesná čísla (po výpočtu vzorce) zobrazovala v panelu vzorce, až pak jsem si změnil počet desetinných míst a koukal, jestli tam ta chyba "nepřesnost" opravdu je.

Vladimír Michl
10.03.2015, 09:58

Absolutní velikost jednotky není problém, AutoCAD i Excel zvládnou přesně počítat rozměry nano- i třeba hvězdné parseky, ale problém je v počtu platných cifer - tedy třeba když ty "nano" chcete kombinovat s parseky zároveň.