![]() |
|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
![]() |
|
|
Опции темы | Поиск в этой теме |
![]() |
#1 |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]()
Доброго времени суток, я далеко не программист, и чтоб написать данную функцию потребовалось не мало пота ) Но вроде получилось, но есть НО.
В общем ситуация такая почему то программа считает не корректно, или где то это просто можно отключить не знаю. пример : имеем 2 числа 143,407 - 141,977 = 1.43000000000001 это так считает комп. Почему? мне надо чтоб он норм посчитал = 1,43 . Откуда еще какие то нули с единицей. =ЕСЛИ(C4=(ОКРУГЛВНИЗ(B$2;2)+0,004); (D4+(((D5-D4)/10)*(B$2-C4)*1000))) Выделенное как раз эти 2 числа |
![]() |
![]() |
![]() |
#2 |
Старожил
Регистрация: 11.05.2010
Сообщений: 5,170
|
![]()
Оно так работает by design: http://www.softelectro.ru/ieee754.html
Как там написано: "Некоторые специалисты считают, что этот формат чисел представляет угрозу человечеству. Вы можете прочитать об этом в статье IEEE754-тика угрожает человечеству "
webmoney: E265281470651 Z422237915069 R418926282008
Последний раз редактировалось Hugo121; 27.10.2016 в 22:33. |
![]() |
![]() |
![]() |
#3 |
Старожил
Регистрация: 17.11.2010
Сообщений: 18,922
|
![]()
Ячейку пробовал отформатировать как число с нужным количеством знаками после точки?
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
|
![]() |
![]() |
![]() |
#4 |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]() |
![]() |
![]() |
![]() |
#5 | |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]() Цитата:
|
|
![]() |
![]() |
![]() |
#6 |
Старожил
Регистрация: 11.05.2010
Сообщений: 5,170
|
![]()
Сделать ничего нельзя. Но можно округлить результат
webmoney: E265281470651 Z422237915069 R418926282008
|
![]() |
![]() |
![]() |
#7 |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]() |
![]() |
![]() |
![]() |
#8 |
Старожил
Регистрация: 31.12.2010
Сообщений: 2,133
|
![]()
Скобок многовато, да и дробь сократить можно. На точность это не влияет, конечно.
Код:
exceleved@yandex.ru Яндекс.Деньги: 410011500007619
Последний раз редактировалось Казанский; 27.10.2016 в 23:17. |
![]() |
![]() |
![]() |
#9 |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]() |
![]() |
![]() |
![]() |
#10 |
Новичок
Джуниор
Регистрация: 27.10.2016
Сообщений: 6
|
![]()
Вроде добавил функцию округл . Теперь считает как надо) кому вообще нафиг надо этот формат двоичный )
|
![]() |
![]() |
![]() |
|
Опции темы | Поиск в этой теме |
![]() |
||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
до каких чисел округляет функция round в Паскале ABC& | Настяyu | Помощь студентам | 5 | 28.12.2011 18:18 |
Double все тупо округляет | WennY | SQL, базы данных | 1 | 22.07.2011 17:12 |
(i and 1) = 1-зачем????? | firephenix | Помощь студентам | 7 | 21.03.2011 06:18 |
Калькулятор Casio fx-1600P Округляет все результаты | Ecosasha | Свободное общение | 2 | 25.02.2011 20:53 |
подскажите какая процедура округляет дробные числа , а не откидывает дробную часть, к | ***СкаЙ*** | Помощь студентам | 5 | 13.06.2007 16:03 |