Домашняя страница Undo Do New Save Карта сайта Обратная связь Поиск по форуму
МИР MS EXCEL - Гость.xls

Вход

Регистрация

Напомнить пароль

 

= Мир MS Excel/Погрешность вычисления в Excel - Мир MS Excel

Старая форма входа
  • Страница 1 из 1
  • 1
Модератор форума: китин, _Boroda_  
Мир MS Excel » Вопросы и решения » Вопросы по Excel » Погрешность вычисления в Excel (Формулы/Formulas)
Погрешность вычисления в Excel
Dion Дата: Воскресенье, 01.03.2015, 17:34 | Сообщение № 1
Группа: Проверенные
Ранг: Форумчанин
Сообщений: 110
Репутация: 0 ±
Замечаний: 20% ±

Excel 2016
Почему получается погрешность в вычислении?
Есть список данных, есть коэффициент 1,497:
22,6 делим на 1,497
22,8 делим на 1,497
23,7 делим на 1,497
21,7 делим на 1,497
21,9 делим на 1,497
Сумма полученных данных в excel равна 75,28 (Желтая ячейка в примере)
Сумма полученных данных на калькуляторе (с округлением до второго знака после запятой) равна 75,29 (Зеленая ячейка в примере)

Почему при делении 21,7 на 1,497 получается разницы на 0,01, которая дает разницу в вычислении? Почему с другими данными (их более 100) не происходит такого? Что особенного в делении 21,7 на 1,497? Как избежать этой разницы?
К сообщению приложен файл: 9402878.xls (35.0 Kb)
 
Ответить
СообщениеПочему получается погрешность в вычислении?
Есть список данных, есть коэффициент 1,497:
22,6 делим на 1,497
22,8 делим на 1,497
23,7 делим на 1,497
21,7 делим на 1,497
21,9 делим на 1,497
Сумма полученных данных в excel равна 75,28 (Желтая ячейка в примере)
Сумма полученных данных на калькуляторе (с округлением до второго знака после запятой) равна 75,29 (Зеленая ячейка в примере)

Почему при делении 21,7 на 1,497 получается разницы на 0,01, которая дает разницу в вычислении? Почему с другими данными (их более 100) не происходит такого? Что особенного в делении 21,7 на 1,497? Как избежать этой разницы?

Автор - Dion
Дата добавления - 01.03.2015 в 17:34
Serge_007 Дата: Воскресенье, 01.03.2015, 18:20 | Сообщение № 2
Группа: Админы
Ранг: Местный житель
Сообщений: 16475
Репутация: 2749 ±
Замечаний: ±

Excel 2016


ЮMoney:41001419691823 | WMR:126292472390
 
Ответить
Dion Дата: Воскресенье, 01.03.2015, 18:44 | Сообщение № 3
Группа: Проверенные
Ранг: Форумчанин
Сообщений: 110
Репутация: 0 ±
Замечаний: 20% ±

Excel 2016
Спасибо. Это ново для меня.
 
Ответить
СообщениеСпасибо. Это ново для меня.

Автор - Dion
Дата добавления - 01.03.2015 в 18:44
Мир MS Excel » Вопросы и решения » Вопросы по Excel » Погрешность вычисления в Excel (Формулы/Formulas)
  • Страница 1 из 1
  • 1
Поиск:

Яндекс.Метрика Яндекс цитирования
© 2010-2024 · Дизайн: MichaelCH · Хостинг от uCoz · При использовании материалов сайта, ссылка на www.excelworld.ru обязательна!