Вычисления на листе с ошибкой
combat
Дата: Среда, 27.01.2016, 11:02 |
Сообщение № 1
Группа: Пользователи
Ранг: Участник
Сообщений: 50
Репутация:
0
±
Замечаний:
20% ±
Excel 2010
По чему так вычисляет? на листе видно, выделено желтым 2-2,09=0,0899999999999999 если увеличить разрядность есть и др. примеры
По чему так вычисляет? на листе видно, выделено желтым 2-2,09=0,0899999999999999 если увеличить разрядность есть и др. примеры combat
Ответить
Сообщение По чему так вычисляет? на листе видно, выделено желтым 2-2,09=0,0899999999999999 если увеличить разрядность есть и др. примеры Автор - combat Дата добавления - 27.01.2016 в 11:02
Udik
Дата: Среда, 27.01.2016, 11:50 |
Сообщение № 2
Группа: Друзья
Ранг: Старожил
Сообщений: 1588
Репутация:
192
±
Замечаний:
0% ±
Excel 2016 х 64
Потому, что эксель больше 13 значащих разрядов плохо переносит.
Потому, что эксель больше 13 значащих разрядов плохо переносит. Udik
вот вам барабан яд 41001231307558 wm R419131876897 udik1968@gmail.com
Ответить
Сообщение Потому, что эксель больше 13 значащих разрядов плохо переносит. Автор - Udik Дата добавления - 27.01.2016 в 11:50
combat
Дата: Среда, 27.01.2016, 12:52 |
Сообщение № 3
Группа: Пользователи
Ранг: Участник
Сообщений: 50
Репутация:
0
±
Замечаний:
20% ±
Excel 2010
просто возникают проблемы когда ставятся условия в условном форматировании, 1,07-1=0,0700000000000001 условие не больше 0,07 не выполняется 2,02-2=0,02000000000000000000000000000, а здесь все нормально условие не больше 0,02 выполняется округлять, не дело....
просто возникают проблемы когда ставятся условия в условном форматировании, 1,07-1=0,0700000000000001 условие не больше 0,07 не выполняется 2,02-2=0,02000000000000000000000000000, а здесь все нормально условие не больше 0,02 выполняется округлять, не дело.... combat
Ответить
Сообщение просто возникают проблемы когда ставятся условия в условном форматировании, 1,07-1=0,0700000000000001 условие не больше 0,07 не выполняется 2,02-2=0,02000000000000000000000000000, а здесь все нормально условие не больше 0,02 выполняется округлять, не дело.... Автор - combat Дата добавления - 27.01.2016 в 12:52
Udik
Дата: Среда, 27.01.2016, 13:03 |
Сообщение № 4
Группа: Друзья
Ранг: Старожил
Сообщений: 1588
Репутация:
192
±
Замечаний:
0% ±
Excel 2016 х 64
вот вам барабан яд 41001231307558 wm R419131876897 udik1968@gmail.com
Сообщение отредактировал Udik - Среда, 27.01.2016, 13:13
Ответить
китин
Дата: Среда, 27.01.2016, 13:24 |
Сообщение № 5
Группа: Модераторы
Ранг: Экселист
Сообщений: 7016
Репутация:
1073
±
Замечаний:
0% ±
Excel 2007;2010;2016
combat , А может проще? [p.s.] Udik , на планете разговор немного о другом шел.не? [p.s.]воспользуйтесь ссылкой Serge_007 Из этой темы
combat , А может проще? [p.s.] Udik , на планете разговор немного о другом шел.не? [p.s.]воспользуйтесь ссылкой Serge_007 Из этой темы китин
Не судите очень строго:я пытаюсь научиться ЯД 41001877306852
Сообщение отредактировал китин - Среда, 27.01.2016, 13:30
Ответить
Сообщение combat , А может проще? [p.s.] Udik , на планете разговор немного о другом шел.не? [p.s.]воспользуйтесь ссылкой Serge_007 Из этой темы Автор - китин Дата добавления - 27.01.2016 в 13:24
Udik
Дата: Среда, 27.01.2016, 13:31 |
Сообщение № 6
Группа: Друзья
Ранг: Старожил
Сообщений: 1588
Репутация:
192
±
Замечаний:
0% ±
Excel 2016 х 64
на планете разговор немного о другом шел.не?
да вроде о том самом, если нужно работать с разрядностью больше 15 знаков. Насчет округления ТС отписал
на планете разговор немного о другом шел.не?
да вроде о том самом, если нужно работать с разрядностью больше 15 знаков. Насчет округления ТС отписалUdik
вот вам барабан яд 41001231307558 wm R419131876897 udik1968@gmail.com
Ответить
Сообщение на планете разговор немного о другом шел.не?
да вроде о том самом, если нужно работать с разрядностью больше 15 знаков. Насчет округления ТС отписалАвтор - Udik Дата добавления - 27.01.2016 в 13:31
китин
Дата: Среда, 27.01.2016, 13:42 |
Сообщение № 7
Группа: Модераторы
Ранг: Экселист
Сообщений: 7016
Репутация:
1073
±
Замечаний:
0% ±
Excel 2007;2010;2016
м.б.,м.б. но на планете разговор шел про Цитата
Есть таблица в ворде , при переносе её в ексель число 12012050370000003 отображаеться так
а здесь походу идет разговор про погрешность вычислений в Excel по стандарту IEEE 754.В ссылке от Serge_007 как раз разговор про это.У combat , вопрос то почему 1,07-1=0,0700000000000001 а не 0,07.А это лечится только ОКРУГЛ
м.б.,м.б. но на планете разговор шел про Цитата
Есть таблица в ворде , при переносе её в ексель число 12012050370000003 отображаеться так
а здесь походу идет разговор про погрешность вычислений в Excel по стандарту IEEE 754.В ссылке от Serge_007 как раз разговор про это.У combat , вопрос то почему 1,07-1=0,0700000000000001 а не 0,07.А это лечится только ОКРУГЛ китин
Не судите очень строго:я пытаюсь научиться ЯД 41001877306852
Ответить
Сообщение м.б.,м.б. но на планете разговор шел про Цитата
Есть таблица в ворде , при переносе её в ексель число 12012050370000003 отображаеться так
а здесь походу идет разговор про погрешность вычислений в Excel по стандарту IEEE 754.В ссылке от Serge_007 как раз разговор про это.У combat , вопрос то почему 1,07-1=0,0700000000000001 а не 0,07.А это лечится только ОКРУГЛ Автор - китин Дата добавления - 27.01.2016 в 13:42
Udik
Дата: Среда, 27.01.2016, 13:48 |
Сообщение № 8
Группа: Друзья
Ранг: Старожил
Сообщений: 1588
Репутация:
192
±
Замечаний:
0% ±
Excel 2016 х 64
Ну я у него в файле формат посмотрел, там 17 знаков. Понятно, что это выходит за рамки обычных возможностей экселя, при 13 - нормально считает.
Ну я у него в файле формат посмотрел, там 17 знаков. Понятно, что это выходит за рамки обычных возможностей экселя, при 13 - нормально считает. Udik
вот вам барабан яд 41001231307558 wm R419131876897 udik1968@gmail.com
Ответить
Сообщение Ну я у него в файле формат посмотрел, там 17 знаков. Понятно, что это выходит за рамки обычных возможностей экселя, при 13 - нормально считает. Автор - Udik Дата добавления - 27.01.2016 в 13:48
combat
Дата: Среда, 27.01.2016, 14:42 |
Сообщение № 9
Группа: Пользователи
Ранг: Участник
Сообщений: 50
Репутация:
0
±
Замечаний:
20% ±
Excel 2010
да не нормально, считает, формат я раскрыл специально, что бы видно было 1,07-1=0,07 и если ответ(0,07) больше 0,07 тогда неправильно иначе правильно, так вот неправильно пишет вот я о чем а не о разрядности C83=1,07-1 C82=0,07 =ЕСЛИ(C83<=C82; "правильно";"неправильно") "неправильно"
да не нормально, считает, формат я раскрыл специально, что бы видно было 1,07-1=0,07 и если ответ(0,07) больше 0,07 тогда неправильно иначе правильно, так вот неправильно пишет вот я о чем а не о разрядности C83=1,07-1 C82=0,07 =ЕСЛИ(C83<=C82; "правильно";"неправильно") "неправильно" combat
Сообщение отредактировал combat - Среда, 27.01.2016, 14:48
Ответить
Сообщение да не нормально, считает, формат я раскрыл специально, что бы видно было 1,07-1=0,07 и если ответ(0,07) больше 0,07 тогда неправильно иначе правильно, так вот неправильно пишет вот я о чем а не о разрядности C83=1,07-1 C82=0,07 =ЕСЛИ(C83<=C82; "правильно";"неправильно") "неправильно" Автор - combat Дата добавления - 27.01.2016 в 14:42
китин
Дата: Среда, 27.01.2016, 14:53 |
Сообщение № 10
Группа: Модераторы
Ранг: Экселист
Сообщений: 7016
Репутация:
1073
±
Замечаний:
0% ±
Excel 2007;2010;2016
combat , а вы ссылку из поста №5 читали?и пост №7?А это лечится только ОКРУГЛ
combat , а вы ссылку из поста №5 читали?и пост №7?А это лечится только ОКРУГЛ
китин
Не судите очень строго:я пытаюсь научиться ЯД 41001877306852
Ответить
Сообщение combat , а вы ссылку из поста №5 читали?и пост №7?А это лечится только ОКРУГЛ
Автор - китин Дата добавления - 27.01.2016 в 14:53