сопроцессор, точность вычислений - Общие вопросы по программированию, компьютерный форум

cupoma58 · 18.01.2019, 10:50

Здравствуйте. Сделал арифмометр (http://cupoma58.ru/assembler.html) для целых и дробных положительных чисел. Он заработал...с целыми числами, для дробных - возникли проблемы с точностью результата:

Код:

  7 : 2 = 3.5 * 2 = 6.5999      30.5 * 2 = 60     35.5 * 2 = 71
  9 : 2 = 4.5 * 2 = 8.8000      50.5 * 2 = 100    55.5 * 2 = 111   
 11 : 2 = 5.5 * 2 = 11          и т.д.
 13 : 2 = 6.5 * 2 = 13.1999
 15 : 2 = 7.5 * 2 = 15.3999

Погрешность появляется вместе с дробной частью. Я подумал, что это связано с округлением и
попробовал изменить настройку слова управления сопроцессора - ничего не изменилось.
И на числа меньше единицы арифмометр реагирует как на ноль.
Подскажите - в чём дело?

p51x · 18.01.2019, 11:05

Вы бы код показывали, а не непонятно как полученные примеры.

Код:

50.5 * 2 = 100    55.5 * 2 = 111

Из-за лишней 5 стал считать лучше?

cupoma58 · 18.01.2019, 11:46

Цитата:

Сообщение от p51x

Вы бы код показывали...

Код арифмометра этот сайт не принимает - превышен лимит на символы, но можно посмотреть по указанной ссылке.

Аватар · 18.01.2019, 11:47

Цитата:

Подскажите - в чём дело?

в ошибке в программе )

p51x · 18.01.2019, 11:48

Цитата:

Сообщение от cupoma58

Код арифмометра этот сайт не принимает - превышен лимит на символы, но можно посмотреть по указанной ссылке.

Архиватор. Знаете такое слово? Текстовой файл?

cupoma58 · 18.01.2019, 11:52

Цитата:

Сообщение от cupoma58

Здравствуйте. Сделал арифмометр (http://cupoma58.ru/assembler.html) для целых и дробных положительных чисел. Он заработал...с целыми числами, для дробных - возникли проблемы с точностью результата:

Код:

  7 : 2 = 3.5 * 2 = 6.5999      30.5 * 2 = 60     35.5 * 2 = 71
  9 : 2 = 4.5 * 2 = 8.8000      50.5 * 2 = 100    55.5 * 2 = 111   
 11 : 2 = 5.5 * 2 = 11          и т.д.
 13 : 2 = 6.5 * 2 = 13.1999
 15 : 2 = 7.5 * 2 = 15.3999

Погрешность появляется вместе с дробной частью. Я подумал, что это связано с округлением и
попробовал изменить настройку слова управления сопроцессора - ничего не изменилось.
И на числа меньше единицы арифмометр реагирует как на ноль.
Подскажите - в чём дело?

Тема закрыта.

18.01.2019, 10:50	#1
cupoma58 Пользователь Регистрация: 12.08.2014 Сообщений: 60	сопроцессор, точность вычислений Здравствуйте. Сделал арифмометр (http://cupoma58.ru/assembler.html) для целых и дробных положительных чисел. Он заработал...с целыми числами, для дробных - возникли проблемы с точностью результата: Код: `7 : 2 = 3.5 * 2 = 6.5999 30.5 * 2 = 60 35.5 * 2 = 71 9 : 2 = 4.5 * 2 = 8.8000 50.5 * 2 = 100 55.5 * 2 = 111 11 : 2 = 5.5 * 2 = 11 и т.д. 13 : 2 = 6.5 * 2 = 13.1999 15 : 2 = 7.5 * 2 = 15.3999` Погрешность появляется вместе с дробной частью. Я подумал, что это связано с округлением и попробовал изменить настройку слова управления сопроцессора - ничего не изменилось. И на числа меньше единицы арифмометр реагирует как на ноль. Подскажите - в чём дело?

18.01.2019, 11:05	#2
p51x Старожил Регистрация: 15.02.2010 Сообщений: 15,833	Вы бы код показывали, а не непонятно как полученные примеры. Код: `50.5 * 2 = 100 55.5 * 2 = 111` Из-за лишней 5 стал считать лучше?

Похожие темы
Тема	Автор	Раздел	Ответов	Последнее сообщение
PHP, тип Double - точность вычислений	vinniepooh	PHP	25	13.01.2016 20:32
Точность вычислений обратной матрицы методом Карамера	FlaringSoul	Паскаль, Turbo Pascal, PascalABC.NET	3	14.05.2013 00:21
Точность вычислений	aly-lucenko	Фриланс	1	02.05.2011 21:38
Сопроцессор	Max-R	Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM	19	18.06.2009 23:52