![]() |
|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
![]() |
|
Опции темы | Поиск в этой теме |
![]() |
#1 |
Форумчанин
Регистрация: 24.02.2009
Сообщений: 269
|
![]()
Здравствуйте уважаемые форумчанины!
Возникла такая проблема: есть код который вычисляет квадрат: Код:
При 3-ем вычисление возникает погрешность вычисления. Для сравнения расчеты производили в стандартном калькуляторе ОС и инженерном калькуляторе.... Не могли бы вы подсказать почему такая ошибка и возможно ли ее исправить???? Заранее спасибо.... |
![]() |
![]() |
![]() |
#2 |
Старожил
Регистрация: 03.01.2011
Сообщений: 2,508
|
![]()
Если результат помещается в int, особого смысла переходить на плавающую точку нет.
А если уж перешли, то погрешность — это нормально, т.к. однозначно представить число в виде плавающей точки почти никогда нельзя. Отбрасывайте последние несколько разрядов, там всё-равно будет мусор после нескольких умножений.
"Когда приходит положенное время, человек перестаёт играть в пинбол. Только и всего."
|
![]() |
![]() |
![]() |
![]() |
||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Проблема с вычислением з/п | qwertase | БД в Delphi | 4 | 29.03.2011 18:46 |
массив проблема с вычислением | oban11 | Помощь студентам | 3 | 14.11.2010 22:04 |
Проблема с вычислением | oban11 | Помощь студентам | 1 | 13.11.2010 13:14 |
Проблема с вычислением количества дней в феврале функцией getTime(); | Max0001 | JavaScript, Ajax | 1 | 05.12.2008 07:03 |