|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
26.09.2014, 13:37 | #1 |
Регистрация: 26.09.2014
Сообщений: 3
|
некорректный подсчет
при вычислении дробных выражений получается некорректный ответ, например: 212,2-212=0,199999999999989. в чем причина?
Код:
|
26.09.2014, 13:59 | #2 |
Белик Виталий :)
Старожил
Регистрация: 23.07.2007
Сообщений: 57,792
|
Правильный ответ вообще-то.
Просто его отформатировать надо.
I'm learning to live...
|
26.09.2014, 14:38 | #3 |
Старожил
Регистрация: 22.05.2007
Сообщений: 9,520
|
Причина в незнании особенностей хранения чисел с плавающей точкой. Решение - вывод отформатированного числа с 2 знаками после запятой. c.ToString и формат числа N2, например.
|
26.09.2014, 15:32 | #4 |
Пользователь
Регистрация: 23.12.2010
Сообщений: 25
|
Код:
|
Опции темы | Поиск в этой теме |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Некорректный шаблон | dragon666999 | HTML и CSS | 8 | 05.02.2013 16:07 |
Некорректный выход из прерывания 09h | корица | Помощь студентам | 0 | 07.05.2012 19:51 |
Некорректный вывод результата (1,#J) | Drozd Oleg | Общие вопросы C/C++ | 3 | 25.09.2011 12:31 |
Некорректный перенос символов | Елена Гох | Microsoft Office Word | 9 | 27.12.2010 00:31 |
Некорректный вывод изображения | Манжосов Денис :) | Gamedev - cоздание игр: Unity, OpenGL, DirectX | 3 | 24.07.2010 00:12 |