Zobrazit plnou verzi příspěvku: Chyba při odečítání v Excelu
Peter Jirat
09.03.2015, 18:47
Jednoduchý úkon - odečíst dvě čísla mezi sebou v řádech milionů a ejhle chyba na vzdáleném desetinném místě. Že mi to udělá Autocad s tím člověk počítá ale u takhle "malých" čísel už i v Excelu:F1 = -1*A1+849000
Excel má přesnost na 15 cifer. Mimochodem, stejnou jako Autocad.http://en.wikipedia.org/wiki/Numeric_precision_in_Microsoft_Excel
johny2015-03-09 21:14:18
hlusiakov
09.03.2015, 20:35
Chyba to není, je to jen nepřesnost způsobená tím, že čísla jsou sčítána v binární podobě ;)
Vladimír Michl
09.03.2015, 21:21
Přesně tak, přesnost Excelu i AutoCADu je daná binární reprezentací reálných čísel. Ta teoretická přesnost zhruba 15 platných cifer odpovídá vašemu příkladu. Viz též:https://support.microsoft.com/kb/78113http://www.cadforum.cz/cadforum/qaID.asp?tip=1066
Peter Jirat
10.03.2015, 09:16
Díky, syn studuje nanotechnologie, tam už je 10na-10 základní jednotkou :-) Mne jen zaskočilo, že se mi ta nepřesná čísla (po výpočtu vzorce) zobrazovala v panelu vzorce, až pak jsem si změnil počet desetinných míst a koukal, jestli tam ta chyba "nepřesnost" opravdu je.
Vladimír Michl
10.03.2015, 09:58
Absolutní velikost jednotky není problém, AutoCAD i Excel zvládnou přesně počítat rozměry nano- i třeba hvězdné parseky, ale problém je v počtu platných cifer - tedy třeba když ty "nano" chcete kombinovat s parseky zároveň.