|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
|
Опции темы | Поиск в этой теме |
27.10.2016, 23:22 | #11 |
Старожил
Регистрация: 31.12.2010
Сообщений: 2,133
|
Вам точность нужна до скольки знаков после запятой? Если до 3, возьмите 6 с запасом:
Код:
exceleved@yandex.ru Яндекс.Деньги: 410011500007619
|
27.10.2016, 23:23 | #12 |
Новичок
СтарожилДжуниор
Регистрация: 05.02.2008
Сообщений: 9,487
|
откажитесь от компьютера, пользуйтесь счетами и не заморачивайте себе голову форматами
Программисты - это люди, решающие проблемы, о существовании которых Вы не подозревали, методами, которых Вы не понимаете
|
27.10.2016, 23:40 | #13 |
Старожил
Регистрация: 11.05.2010
Сообщений: 5,166
|
- так двоичность это основа компьютера, на них (1 и 0) всё и держится
webmoney: E265281470651 Z422237915069 R418926282008
|
27.10.2016, 23:49 | #14 |
Новичок
СтарожилДжуниор
Регистрация: 05.02.2008
Сообщений: 9,487
|
ну, а если пользуетесь - то изучайте материальную базу. о точности хранения чисел в компьютере сказано столько раз, что это должны уже понять те, кто не знает что такое компьютер
пишите: в А1 11 в В1 =10^A1 в C1 =1+10^A1 в D1 =B1=C1 в D1 видите ЛОЖЬ? оно и понятно 10^11 <> 1+10^11 пишите в А2 12, в А3 13, в А4 14, а А5 15,в А6 16 скопируйте В1:D1 вниз до В6 видите в 5-й строке оказалось, что 10^15 = 1+10^15 с точки зрения математики - это полная ерунда, а с точки зрения точности хранения данных в компьютере - все нормально! таковы правила игры! если их понимать - игра становиться вполне очевидной.
Программисты - это люди, решающие проблемы, о существовании которых Вы не подозревали, методами, которых Вы не понимаете
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
до каких чисел округляет функция round в Паскале ABC& | Настяyu | Помощь студентам | 5 | 28.12.2011 18:18 |
Double все тупо округляет | WennY | SQL, базы данных | 1 | 22.07.2011 17:12 |
(i and 1) = 1-зачем????? | firephenix | Помощь студентам | 7 | 21.03.2011 06:18 |
Калькулятор Casio fx-1600P Округляет все результаты | Ecosasha | Свободное общение | 2 | 25.02.2011 20:53 |
подскажите какая процедура округляет дробные числа , а не откидывает дробную часть, к | ***СкаЙ*** | Помощь студентам | 5 | 13.06.2007 16:03 |