|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
Нет наработок или кода, если нужно готовое решение - создайте тему в разделе Фриланс и оплатите работу. Название темы включает слова - "Помогите", "Нужна помощь", "Срочно", "Пожалуйста". Название темы слишком короткое или не отражает сути вашего вопроса. Тема исчерпала себя, помните, один вопрос - одна тема Прочитайте правила и заново правильно создайте тему. |
|
Опции темы | Поиск в этой теме |
30.08.2015, 13:00 | #1 |
Я самый любопытный
Участник клуба
Регистрация: 24.07.2012
Сообщений: 1,950
|
Сложение чисел глючит
Здравствуйте! Почему сложение вещественных чисел неверно считает? Добавляет девятки в конце, нули с единицей...
|
30.08.2015, 13:16 | #2 |
Форумчанин
Регистрация: 01.06.2015
Сообщений: 497
|
Возможно это проблема с точностью, попробуйте использовать вместо real, extended тип данных. Кстати сам FloatToStr принимает extended.
Если помог, буду очень благодарен за Ваш отзыв (весы в левой нижней части сообщения).
Последний раз редактировалось Krasiosoft; 30.08.2015 в 13:29. |
30.08.2015, 13:52 | #3 |
Старожил
Регистрация: 17.11.2010
Сообщений: 18,922
|
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
|
30.08.2015, 14:15 | #4 |
Форумчанин
Регистрация: 06.01.2011
Сообщений: 369
|
Сложение работает верно.
В десятичной системе число 0,01 имеет конечную запись. При переводе в родную для компа двоичную систему число 0,01 в теории станет бесконечной дробью (можно проверить тут http://matworld.ru/calculator/perevod-chisel.php), а на практике урежется до точности того типа данных, который вы выберете (real, extended и т.д.) - т.е. уже формально не будет равно 0,01 в десятичной системе. Далее все мат. операции производятся с этой урезанной дробью, а потом результат переводится обратно в десятичную систему. Как-то так...
Программирую по необходимости
|
30.08.2015, 17:31 | #5 |
Я самый любопытный
Участник клуба
Регистрация: 24.07.2012
Сообщений: 1,950
|
Krasiosoft, tsar_, спасибо за ответ!
Тему можно закрывать... Последний раз редактировалось newerow1989; 31.08.2015 в 04:55. |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Сложение больших чисел | Wadduh | Паскаль, Turbo Pascal, PascalABC.NET | 2 | 31.03.2013 22:04 |
Сложение двоичных чисел!!! | 2008kedr2008 | Общие вопросы C/C++ | 4 | 11.05.2011 14:57 |
Сложение двух десятичных положительных чисел. целых чисел))) | PEro_man | Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM | 6 | 01.12.2010 12:40 |
Сложение больших чисел | Plazma | Общие вопросы C/C++ | 0 | 27.11.2010 17:11 |
сложение чисел | s2dentishe | Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM | 3 | 14.06.2010 21:33 |