Проблема в том, что значение по данной формуле значительно отличается от значения по первоначальной 2.02 1.67 0.000000000000000010 /значение по начальной формуле 2.02 1.67 -0.000000000000000162 /значение по стабилизированной
Кто-то может пояснить, какое в итоге верное и как можно стабилизировать начальную формулу без изменения значений? Файл с формулой от МатЖПТ прицеплен
Признателен!
Добавлю, МатЖПТ предложил решение, которое стабилизировало формулу, т.е. При сдвиге, значение не меняется, но
Проблема в том, что значение по данной формуле значительно отличается от значения по первоначальной 2.02 1.67 0.000000000000000010 /значение по начальной формуле 2.02 1.67 -0.000000000000000162 /значение по стабилизированной
Кто-то может пояснить, какое в итоге верное и как можно стабилизировать начальную формулу без изменения значений? Файл с формулой от МатЖПТ прицеплен
оба верные, потому как в пределах 15 разрядов (точность, поддерживаемая Excel) оба значения равны нулю.Так что округление до 15 знаков - не чушь, а вполне себе здравое предложение
оба верные, потому как в пределах 15 разрядов (точность, поддерживаемая Excel) оба значения равны нулю.Так что округление до 15 знаков - не чушь, а вполне себе здравое предложениепрохожий2019
Сообщение отредактировал прохожий2019 - Суббота, 15.02.2025, 18:54
добрый! 1. к сожалению, имеем только такие значения и с ними нужно работать, без округления 2. если оба верные, почему происходит смена знака?, это уже не погрешность, это уже притовоположное значение
добрый! 1. к сожалению, имеем только такие значения и с ними нужно работать, без округления 2. если оба верные, почему происходит смена знака?, это уже не погрешность, это уже притовоположное значениеdfbdfb
Сообщение отредактировал dfbdfb - Суббота, 15.02.2025, 18:41
в СУММПРОИЗВ, значение зависит от количества переменных взять 14 строк и имеем значение разряда 10.0, но не суть пока, как решить проблему стабилизации не ясно, увы буду думать...
в СУММПРОИЗВ, значение зависит от количества переменных взять 14 строк и имеем значение разряда 10.0, но не суть пока, как решить проблему стабилизации не ясно, увы буду думать...dfbdfb
Сообщение отредактировал dfbdfb - Суббота, 15.02.2025, 19:59
в СУММПРОИЗВ, значение зависит от количества переменных
а внутри SIN - нет, значение, выдаваемое им, ДОЛЖНО быть округлено до 15 разрядов - иначе вы идёте против тригонометрии, ну а дальше сумма хоть 2-х нулей, хоть 14-ти все равно должна быть НОЛЬ
в СУММПРОИЗВ, значение зависит от количества переменных
а внутри SIN - нет, значение, выдаваемое им, ДОЛЖНО быть округлено до 15 разрядов - иначе вы идёте против тригонометрии, ну а дальше сумма хоть 2-х нулей, хоть 14-ти все равно должна быть НОЛЬпрохожий2019
Сообщение отредактировал прохожий2019 - Суббота, 15.02.2025, 20:02
а для чего там номера столбцов? это принципиально?
а без них синус у нас будет 1,22 на 10^-16 и формула будет "стабильной" - а вот когда внутрь пихают арифметику начинается интересное, потому как результат зависит как от самой арифметики, так и от запихиваемой функции и запихиваемого диапазона - ну интересно же )))
а глобально оставляя 15 разрядов после запятой рискуем словить округление вверх и получение ненулевого значения - машинная ошибка имеет порядок 10^-16 - но не факт, что на конкретной арифметике она будет до 5*10^-16
а для чего там номера столбцов? это принципиально?
а без них синус у нас будет 1,22 на 10^-16 и формула будет "стабильной" - а вот когда внутрь пихают арифметику начинается интересное, потому как результат зависит как от самой арифметики, так и от запихиваемой функции и запихиваемого диапазона - ну интересно же )))
а глобально оставляя 15 разрядов после запятой рискуем словить округление вверх и получение ненулевого значения - машинная ошибка имеет порядок 10^-16 - но не факт, что на конкретной арифметике она будет до 5*10^-16прохожий2019
Сообщение отредактировал прохожий2019 - Суббота, 15.02.2025, 21:38
глобально оставляя 15 разрядов после запятой рискуем словить округление вверх и получение ненулевого значения
в части 14 разрядов, ваши слова подтверждаются! в одной книге, я имею действительно нулевое значение (прицеплено) в рабочей книге, теже 14 разрядов дают не нулевое значение! какое-то безумие...
глобально оставляя 15 разрядов после запятой рискуем словить округление вверх и получение ненулевого значения
в части 14 разрядов, ваши слова подтверждаются! в одной книге, я имею действительно нулевое значение (прицеплено) в рабочей книге, теже 14 разрядов дают не нулевое значение! какое-то безумие...dfbdfb
за маки ничего не скажу - не сталкивался, базово спецификация та же. Единственное предположение - что дополнительная арифметика после округления влияет - но на обычном виндовском эксельке воспроизвести не удалось
А вообще какова глобальная цель всех этих умножений на ноль и вывода кучи десятичных знаков?
за маки ничего не скажу - не сталкивался, базово спецификация та же. Единственное предположение - что дополнительная арифметика после округления влияет - но на обычном виндовском эксельке воспроизвести не удалось
А вообще какова глобальная цель всех этих умножений на ноль и вывода кучи десятичных знаков?прохожий2019
Сообщение отредактировал прохожий2019 - Суббота, 15.02.2025, 23:57