|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
24.12.2022, 07:41 | #1 |
Старожил
Регистрация: 04.02.2011
Сообщений: 4,619
|
Delphi 7. Потеря точности.
Встретился интересный момент.
Решаю студентке-двоечнице задачку, вычисляю ряд. https://programmersforum.ru/showthre...06#post1855306 Всё нормально, ряд знакопеременный, сходящийся. Delphi 7. Но что за фигня? С определённого момента член ряда не меняется. Достигнут предел точности double? Но ведь сумма меняется нормально! Глюк преобразования? Попробовал масштабнуть умножением на 1000000 - разница ожидаемо уже в 6-м знаке. Попробовал в Excel 1/200001 и -1/200003 - разница есть, но где-то далеко за 10-м знаком. Есть мысли? Интересно проверить на другой версии Д. или другом языке. Код:
Код:
PS Частично разобрался: в формате вывода не хватает разрядов, изменение начинается с 11-го разряда. А при масштабировании первые 5 нулей "улетают" . Но почему тогда в сумме заметны изменения уже с 5-6-го разряда, а последние 3 знака не меняются? ---------------------- PPS Ложная тревога. Вывел в формате 15.12 - всё изменяется, всё выводится как надо. Excel: Последний раз редактировалось digitalis; 24.12.2022 в 13:45. |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
достяжение точности. | АлександрАврел | Visual C++ | 1 | 22.06.2012 09:31 |
Исследование точности проекционного метода оценивания или как построить в Delphi график сложной функции | jorj | Помощь студентам | 0 | 21.01.2012 23:33 |
Вопрос точности вычисления! | Alexunder09 | Visual C++ | 0 | 15.02.2011 17:58 |
Delphi проблема в точности.... | tanek | Помощь студентам | 2 | 25.10.2009 16:06 |
Не точности по проге | Sasuke-sama | Общие вопросы C/C++ | 3 | 01.06.2009 19:51 |