Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Delphi программирование > Общие вопросы Delphi
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 28.01.2011, 10:11   #1
Ragnarek45
Пользователь
 
Регистрация: 04.12.2010
Сообщений: 14
По умолчанию sqr показывает неверно

Код:
procedure TForm1.Button1Click(Sender: TObject);
var
x1,x2,xsr,xsr1,xsr2,s:extended;
begin
if edit1.Text<>'' then
  if edit2.text<>'' then
begin
i:=i+1;
table.Cells[0,i]:=inttostr(i);
table.Cells[1,i]:=(Edit1.Text);
table.Cells[2,i]:=(Edit2.Text);
x1:=strtofloat(table.Cells[1,i]);
x2:=strtofloat(table.Cells[2,i]);
xsr:=(x1+x2)/2;
table.Cells[3,i]:=floattostr(xsr);
xsr1:=sqr(x1-xsr);
table.Cells[4,i]:=floattostr(xsr1);
функция sqr при разнице в значениях х1 и х2 в 0,01 возвращает значение в виде 2,5E -5. Можно ли решить эту проблему как нибудь?
Ragnarek45 вне форума Ответить с цитированием
Старый 28.01.2011, 11:58   #2
Stilet
Белик Виталий :)
Старожил
 
Аватар для Stilet
 
Регистрация: 23.07.2007
Сообщений: 57,097
По умолчанию

Код:
table.Cells[4,i]:=format('%2.3f',[xsr1]);
Юзай.
I'm learning to live...
Stilet вне форума Ответить с цитированием
Старый 28.01.2011, 12:41   #3
Ragnarek45
Пользователь
 
Регистрация: 04.12.2010
Сообщений: 14
По умолчанию

О! =) Благодарю. Теперь проблема с sqrt. =( пойду новую тему открывать
Ragnarek45 вне форума Ответить с цитированием
Старый 28.01.2011, 14:06   #4
InternetStranger
php / delphi
Форумчанин
 
Аватар для InternetStranger
 
Регистрация: 10.06.2007
Сообщений: 175
По умолчанию

Как вариант предложу FloatToStrF:

Код:
table.Cells[4,i]:= FloatToStrF(xsr1, ffFixed, 3,2);
G.Azamat { Web Development / Computer simulation }
Начинающий программист думает, что в килобайте 1000 байтов, а законченный уверен, что в километре 1024 метра.
InternetStranger вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
sin ,cos,ln,lg,exp,sqr и др. wanes101 Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM 7 22.10.2014 04:24
график функции y=a*sqr(x)=b*x+c/d*x+e slava5170 Паскаль, Turbo Pascal, PascalABC.NET 1 01.12.2010 22:14
неверно считает? штохл Microsoft Office Excel 3 17.05.2010 22:24
Ошибка с Sqr c отрицательным числом Rustamel Microsoft Office Excel 8 19.04.2010 00:21
Ошибка переполнения и sqr. ray13 Паскаль, Turbo Pascal, PascalABC.NET 10 04.03.2009 15:59