по программе шифрования на Delphi написать формулу.

[djquins]

Посмотрите пожалуйста, как три ключа в переменной, можно формулу мне написать если не трудно И что обозначают: pOut^, pIn^.

Try
 MIn.LoadFromFile(Edit4.Text);
 MOut.SetSize(MIn.Size);
 Key1:=SpinEdit1.Value;
 Key2:=SpinEdit2.Value;
 Key3:=SpinEdit3.Value;
 if MIn.Size = MOut.Size then
  begin
   pIn := MIn.Memory;
   pOut := MOut.Memory;
   for i := 1 to MIn.Size do
    begin
     pOut^ := pIn^ xor (Key3 shr 8);
     Key3 := Byte(pIn^ + Key3) * Key1 + Key2;

[Stilet]

что обозначают: pOut^, pIn^.

pOut^ - Взять значение из ячейки памяти потока MOut, на который сейчас указывает переменка
pIn^ - то же самое но для MIn.

можно формулу мне написать если не трудно

Уф... Я так приблизительно понял, но метод шифрования мне не знаком.
По идее берется байт, который ксорится на значение в Key3, сдвинутое на 8 бит вправо, т.е. берется верхняя часть слова ключа.
Далее сам ключ изменяется. Берется из потока текущий байт, который складывается с Кеу3, умножается на Кеу1 и опять складывается с Кеу2.