|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
01.03.2013, 21:15 | #1 |
Регистрация: 26.11.2012
Сообщений: 3
|
пропажа точности при расчете с дробями
Есть полностью рабочая программа, она находит корень К из числа Х с точностью prec.
Работает все хорошо, но при подсчетах с дробовыми числами идет потеря во втором-третем знаке. Код Код:
Просьба помочь, ибо как тут выкрутится я не знаю. точностьи 1Е-5 обычно хватает |
01.03.2013, 21:16 | #2 |
Регистрация: 26.11.2012
Сообщений: 3
|
double вместо float ничего не изменяет.
|
02.03.2013, 14:24 | #3 |
Главное желание.
Форумчанин
Регистрация: 28.11.2011
Сообщений: 122
|
На сколько я знаю это нормально для double & float. Они теряют точность. Решение проблемы я не подскажу, поскольку я не помню. Погугли.
Я могу, Я хочу, Я буду!
|
Опции темы | Поиск в этой теме |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Ошибка в расчете интеграла методом трапеций | user-04 | Visual C++ | 2 | 25.12.2012 20:52 |
Определить сумму к выплате при расчете заработной платы для 7 сотрудников..(Excel) | LizzZi | Помощь студентам | 1 | 30.05.2011 18:30 |
Форматирование ячейки при расчете. | %$PROregRAMi$t% | Microsoft Office Excel | 5 | 18.08.2010 04:08 |