Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > IT форум > Помощь студентам
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 10.06.2011, 12:44   #1
tiger()
Пользователь
 
Регистрация: 09.04.2011
Сообщений: 49
По умолчанию добавление малого числа для точности

Слышал где-то что для обеспечения точности к числу с плавающей запятой добавляют очень малое число (есть какое-то конкретное значение).

Кто-нибудь может объяснить как это работает и где применяется? или хотя бы как это в поисковике обозвать можно =)
tiger() вне форума Ответить с цитированием
Старый 10.06.2011, 12:49   #2
Valio
Сливочное масло
Участник клуба
 
Аватар для Valio
 
Регистрация: 01.01.2011
Сообщений: 1,149
По умолчанию

Первый раз слышу.
Сливочное масло Valio - компиляция как по маслу
Valio вне форума Ответить с цитированием
Старый 10.06.2011, 13:27   #3
Serge_Bliznykov
Старожил
 
Регистрация: 09.01.2008
Сообщений: 26,229
По умолчанию

тоже в первый раз такое слышу.
как вариант (это исключительно моё личное предположение)
можно добавлять 0.00xxx0005 (количество нулей после запятой ровно столько, сколько нужно оставить значащих разрядов) перед отбрасываением всех последующих разрядов...
Но вообще-то примерно так и действует функция ROUND с указанным числом разрядов...

а вообще, для изучения темы рекомендую ознакомиться:
Числа с плавающей запятой (Wikipedia)

статья Антона Григорьева "Неочевидные особенности вещественных чисел"

Загадки округления
Serge_Bliznykov вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Добавление цифры в начале числа DDMAX Microsoft Office Excel 5 25.01.2011 16:12
Предложение для малого бизнеса и частных предпринимателей SEOmastr Общие вопросы Delphi 2 28.04.2010 11:19
добавление числа в список (си) zhenya.ya Помощь студентам 0 11.04.2010 21:29
Классы для чисел большой точности Lawliet32 Помощь студентам 2 26.12.2009 12:32
Округление числа до заданной точности Siluet Общие вопросы Delphi 3 15.04.2009 17:39