|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
07.06.2012, 15:41 | #1 |
Пользователь
Регистрация: 17.04.2012
Сообщений: 42
|
Странное накопление double переменной
Добрый день. Есть функция f(x) x принимает значения от a до b с шагом h.
Написал программу НО при отладке обнаружил что при a=0 b=3 h=0,1, в цикле накопление шага происходит не равномерно значение x(в моем случае это счетчик i) увеличивается не ровно на 0,1, в связи с этим происходит неправильное выполнение функции при дальнейших округлениях. Прилагаю наглядный скриншот , при дальнейших шагах h, округление дает не верный результат |
07.06.2012, 17:33 | #2 |
Дружите с Linq ;)
Форумчанин
Регистрация: 15.10.2008
Сообщений: 822
|
Нехорошо, конечно, но если происходит ошибка, тогда делайте сеппуку этому счетчику функцией Round.
Не давай организму поблажки, каждый день тренируй его в шашки..
|
07.06.2012, 19:20 | #3 | |
Старожил
Регистрация: 03.01.2011
Сообщений: 2,508
|
Цитата:
"Когда приходит положенное время, человек перестаёт играть в пинбол. Только и всего."
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
накопление статистики | Slavdholl | PHP | 2 | 31.03.2011 12:54 |
функция pow(double x, double y) Не могу понять в чем ошибка | Vlashel | Помощь студентам | 3 | 07.10.2010 16:28 |
накопление+отсеивание | xxxxx0111 | Microsoft Office Excel | 4 | 09.02.2010 13:32 |
progressBar(накопление по одному кубику) | Siluet | Общие вопросы Delphi | 4 | 21.12.2009 21:08 |