Chyba při odečítání v Excelu
Vytištěno z: CAD Fórum
Kategorie: CAD - obecně
Název fóra: Non-CAD software, IT
Popis fóra: Otázky neCADovského software, kancelářské a komunikační aplikace, sítě, úložiště, cloud, IT obecně - ve vztahu k projektování a konstruování
URL: https://www.cadforum.cz/forum/forum_posts.asp?TID=20831
Datum vytištění: 30.čer.2026 v 23:31
Téma: Chyba při odečítání v Excelu
Odeslal: Peter Jirat
Předmět: Chyba při odečítání v Excelu
Datum odeslání: 09.bře.2015 v 18:47
|
Jednoduchý úkon - odečíst dvě čísla mezi sebou v řádech milionů a ejhle chyba na vzdáleném desetinném místě. Že mi to udělá Autocad s tím člověk počítá ale u takhle "malých" čísel už i v Excelu: F1 = -1*A1+849000  ------------- PJ http://www.jirat.cz" rel="nofollow - www.jirat.cz |
Odpovědi:
Odeslal: johny
Datum odeslání: 09.bře.2015 v 20:29
|
Excel má přesnost na 15 cifer. Mimochodem, stejnou jako Autocad. http://en.wikipedia.org/wiki/Numeric_precision_in_Microsoft_Excel
|
Odeslal: hlusiakov
Datum odeslání: 09.bře.2015 v 20:35
| Chyba to není, je to jen nepřesnost způsobená tím, že čísla jsou sčítána v binární podobě ;) |
Odeslal: Vladimír Michl
Datum odeslání: 09.bře.2015 v 21:21
|
Přesně tak, přesnost Excelu i AutoCADu je daná binární reprezentací reálných čísel. Ta teoretická přesnost zhruba 15 platných cifer odpovídá vašemu příkladu. Viz též: https://support.microsoft.com/kb/78113" rel="nofollow - https://support.microsoft.com/kb/78113 http://www.cadforum.cz/cadforum/qaID.asp?tip=1066 - http://www.cadforum.cz/cadforum/qaID.asp?tip=1066 ------------- Vladimír Michl (moderátor) ARKANCE CZ - https://arkance.world - arkance.world (podpora viz emea.support.arkance.world) |
Odeslal: Peter Jirat
Datum odeslání: 10.bře.2015 v 09:16
|
Díky, syn studuje nanotechnologie, tam už je 10na-10 základní jednotkou :-) Mne jen zaskočilo, že se mi ta nepřesná čísla (po výpočtu vzorce) zobrazovala v panelu vzorce, až pak jsem si změnil počet desetinných míst a koukal, jestli tam ta chyba "nepřesnost" opravdu je. ------------- PJ http://www.jirat.cz" rel="nofollow - www.jirat.cz |
Odeslal: Vladimír Michl
Datum odeslání: 10.bře.2015 v 09:58
|
Absolutní velikost jednotky není problém, AutoCAD i Excel zvládnou přesně počítat rozměry nano- i třeba hvězdné parseky, ale problém je v počtu platných cifer - tedy třeba když ty "nano" chcete kombinovat s parseky zároveň. ------------- Vladimír Michl (moderátor) ARKANCE CZ - https://arkance.world - arkance.world (podpora viz emea.support.arkance.world) |