Файловое отображение портит работу DLL

[Genco]

Здравствуйте!
У меня хитрая проблема. Пишу dll, в ней несколько функций, часть относится к установке хука на мышь. Некая MouseHook - соотвественно, обработчик. Библиотека грузится из основного приложения статически. Для взаимодействия длл и основной программы создаю отображение файла в память таким образом:

 
const
  MFName: PChar = 'RoomMap';

type
  PGlobalDLLData = ^TGlobalDLLData;
  TGlobalDLLData = packed record
    MouseHook: THandle; // хендл хука, пока не используется 
    MsAppWnd: THandle; // хендл основного приложения
  end;

var
  msHook: THandle;
  MFHandle: THandle;
  WM_ROOM: Cardinal;
  GlobalData: PGlobalDLLData;  

//------------------------------------------------------------
procedure InitHandles(wnd: HWND); export; stdcall;
begin
 WM_ROOM:=RegisterWindowMessage('WM_ROOM');   //сообщение посылать чтобы
 MFHandle:= CreateFileMapping(INVALID_HANDLE_VALUE, nil, PAGE_READWRITE, 0, SizeOf(TGlobalDLLData), MFName);
 if ( (MFHandle<>0) and (GetLastError() = ERROR_ALREADY_EXISTS) ) or (MFHandle=0) then
  begin
   CloseHandle(MFHandle);
   MessageBox(0, 'Can''t create FileMapping', 'Message from keyhook.dll', 0);
   Exit;
  end;

 GlobalData:= MapViewOfFile(MFHandle, FILE_MAP_ALL_ACCESS, 0, 0, SizeOf(TGlobalDLLData));
 if GlobalData = nil then
  begin
   CloseHandle(MFHandle);
   MessageBox(0, 'Can''t make MapViewOfFile', 'Message from keyhook.dll', 0);
   Exit;
  end;

 GlobalData^.MsAppWnd:=wnd;
 // ShowMessage('data ok '+IntToStr(GlobalData^.MsAppWnd));  //отладка
end;

Ну, соответственно, потом все ресурсы освобождаю, это понятно. Далее я пытаюсь использовать отображение в функции - обработчике, которая до этого работала. в той же dll. Пробую так:

function MouseHook(nCode, wParam, lParam: integer): Lresult; stdcall;
var
  msg: PMouseHookStruct;
  w: HWND;
  style: integer;
begin
  if nCode < 0 then
  begin
    result := CallNextHookEx(msHook, nCode, wParam, lParam);
    exit;
  end;
  msg := PMouseHookStruct(lParam);

  case wParam of
    WM_MBUTTONDOWN : pt := msg^.pt;
    WM_MBUTTONUP :
    begin
      if (GlobalData^.MsAppWnd<>0) then ShowMessage('YEAHH!!') // ShowMessage(IntToStr(GlobalData^.MsAppWnd))
      else ShowMessage('FUUU!!'); 
      SendMessage(GlobalData^.MsAppWnd,WM_ROOM,3,7);
      
      {Тут мой прекрасной работавший код}

    end;
  end;

  result := CallNextHookEx(msHook, nCode, wParam, lParam);
end;

procedure SetMouseHook;
begin
  msHook := SetWindowsHookEx(wh_mouse, @mouseHook, hInstance, 0);
  GlobalData^.MouseHook:=msHook;   // временно пользуюсь хендлом НЕ из отображения, пока оно не заработало, дублирую переменной 
  if msHook = 0 then MessageBox(0, 'Lagg!', 'MouseHook failed!', mb_ok);
  ShowMessage('hooked');
end;

procedure RemoveMouseHook;
begin
  UnhookWindowsHookEx(msHook);
  ShowMessage('Unhooked');
end;

Функции экспортирую, вызываю в приложении в правильном порядке, всё как надо, отлаживался MessageBox'ами.
Так вот, рабочий код таковым быть перестает (не вызывается), сообщение с куском глобальной информации тоже не вылезает. Никакого краха не происходит, данные даже не портятся, хендлы из отображения непосредственно перед UnmapViewOfFile можно посмотреть/вывести, будут правильные, но обработчик тихо умирает в 100% случаев.
Подскажите, пожалуйста, что не так?

[Пепел Феникса]

помоему вы забыли, что длл с хуком грузится в чужой процесс, и в итоге ваши экспортные функции работают с той длл что подгружена к вам, а не к той что обрабатывает хук в чужом приложении.

[Genco]

Ну так я же ведь затем и создал объект файлового отображения (везде примерно это и рекомендуется, кажется):
1) пишу хендлы на страницу памяти
2) обращаюсь туда из длл

Откуда бы ни грузилась длл, она будет лезть в универсальное место и что-то делать, считав оттуда данные. До этого функция - перехватчик работала причем (ловила мышь), значит можно было ожидать, что в тех же случаях она вдобавок поработает с глобальными данными. Ан нет, пролет.

Это нормально? Я сейчас попытаюсь хендл хука тоже в отображение поместить, но не думаю, что результат будет.

// Да, вот ща везде подставил GlobalData^.MouseHook - программа глючит и летит и не закрывается.

[Пепел Феникса]

так так так, стоп.
это весь код длл?

помните одну вещь, что в другом процессе другой экземпляр длл, и он ничего не знает о том что было сделано в вашем процессе. НИЧЕГО.

поэтому идет так:
при загрузке получается два экземпляра модуля(не *.pas модуль, а исполняемый модуль)
модуль А в вашем процессе, и модуль Б в процессе жертве.
действия:
1)вы иницилизуете модуль А, в нем открываете проекцию и заполняете переменные.
2)далее ставите хук и модуль Б начинает работу.
3)в модуле Б все переменные имеют базовое значение, в итоге он не знает ни о проекции открытой в А, ни о глобальный переменных там же.
итог обломный.

если вам надо чтоб модуль Б при своей инициализации нашел например окно вашей программы(а та через DuplicateHandle передала ему хендл на проекцию ответом на сообщение), то используйте DllEntryPoint.
да кстати, хендлы тоже надо корректно переносить с одного процесса в другой.



помоему стоит подучить основы организации процессов в Win32, читать Рихтера(разработка эффективных Win32 приложений) главы про ДЛЛ и виртуальное адресное пространство, и помоему еще про процессы пригодится(а советовал бы прочесть всю книгу, ибо я не жалею что потратил на нее время)

[Genco]

Точно! Немного подумал и понял, о чем вы. Спасибо большое!!
В промежуточно-отладочном варианте сделал примерно так:

library hooker;

uses
  windows, messages,dialogs,sysutils;

const
  MFName: PChar = 'RoomMap';

type
  PGlobalDLLData = ^TGlobalDLLData;
  TGlobalDLLData = packed record
    MouseHook: THandle; // äåñêðèïòîð óñòàíîâëåííîé ëîâóøêè
    MsAppWnd: HWND; // äåñêðèïòîð íàøåãî ïðèëîæåíèÿ
  end;

var
  pt: TPoint;
  MFHandle: THandle;
  WM_ROOM: Cardinal;
  GlobalData: PGlobalDLLData;

function MouseHook(nCode, wParam, lParam: integer): Lresult; stdcall;
var
  msg: PMouseHookStruct;
  w: HWND;
  style: integer;
begin
  if nCode < 0 then
  begin
    result := CallNextHookEx(GlobalData^.MouseHook, nCode, wParam, lParam);
    exit;
  end;
  msg := PMouseHookStruct(lParam);

  case wParam of
    WM_MBUTTONDOWN : pt := msg^.pt;
    WM_MBUTTONUP :
    begin

      SendMessage(GlobalData^.MsAppWnd,WM_ROOM,3,7);
      
      w := WindowFromPoint(pt);
      style:=GetClassLong(w,GCL_STYLE) xor CS_NOCLOSE;
      SetLastError(0);
      SetClassLong(w,GCL_STYLE,style);
      SetWindowPos(w, HWND_NOTOPMOST, 0,0,0,0,SWP_FRAMECHANGED or SWP_NOMOVE or SWP_NOSIZE or SWP_NOZORDER);
      if GetLastError<>0 then MessageBox(w,'FAIL','sds',MB_OK);
   end;
  end;

  result := CallNextHookEx(GlobalData^.MouseHook, nCode, wParam, lParam);
end;

procedure SetMouseHook(wnd: HWND);
begin
  GlobalData^.MsAppWnd:=wnd;
  GlobalData^.MouseHook := SetWindowsHookEx(wh_mouse, @mouseHook, hInstance, 0);
  if GlobalData^.MouseHook = 0 then MessageBox(0, 'Lagg!', 'MouseHook failed!', mb_ok);
  ShowMessage('hooked '+inttostr(GlobalData^.MouseHook));
end;

procedure RemoveMouseHook;
begin
  UnhookWindowsHookEx(GlobalData^.MouseHook );
  ShowMessage('Unhooked');
end;

procedure InitAllHandles(); 
begin
 WM_ROOM:=RegisterWindowMessage('WM_ROOM');
 MFHandle:= CreateFileMapping(INVALID_HANDLE_VALUE, nil, PAGE_READWRITE, 0, SizeOf(TGlobalDLLData), MFName);
 if (MFHandle=0) then
  begin
   CloseHandle(MFHandle);
   MessageBox(0, 'Can''t create FileMapping', 'Message from keyhook.dll', 0);
   Exit;
  end;

 GlobalData:= MapViewOfFile(MFHandle, FILE_MAP_ALL_ACCESS, 0, 0, SizeOf(TGlobalDLLData));
 if GlobalData = nil then
  begin
   CloseHandle(MFHandle);
   MessageBox(0, 'Can''t make MapViewOfFile', 'Message from keyhook.dll', 0);
   Exit;
  end;

end;


procedure ReleaseAllHandles();
begin
 ShowMessage('released '+IntToStr(GlobalData^.MsAppWnd));
 UnmapViewOfFile(GlobalData);
 CloseHandle(MFHandle);
end;

exports
  SetMouseHook  name 'SetMouseHook',
  RemoveMouseHook  name 'RemoveMouseHook';
  ReleaseAllHandles name 'ReleaseAllHandles';

procedure DLLEntryPoint(dwReason: DWord); stdcall;
begin
  case dwReason of
    DLL_PROCESS_ATTACH: InitAllHandles;
    DLL_PROCESS_DETACH: ReleaseAllHandles;
  end;
end;

begin
  DLLProc:= @DLLEntryPoint; 
  DLLEntryPoint(DLL_PROCESS_ATTACH);
end.

Но мне теперь что, эту библиотеку только динамически вызывать? Просто беглая проверка показала, что ReleaseAllHandles не отрабатывает при статической загрузке почему-то, приходится явно вызывать в основном коде.

З.Ы. Мда, матчасть и правда возьмусь подтянуть.

[Пепел Феникса]

ReleaseAllHandles отрабатывает в вашем процессе(модуль А) но не в чужом(не в модуле Б)

[Genco]

Ну это с одной стороны терпимо, удалить объект достаточно всего 1 раз)
Но... Т.е. грузить динамически строго, чтобы срабатывал DLL_PROCESS_DETACH и было "по науке"?

[Пепел Феникса]

в чужом процессе да, в своем в принципе можно и в статике оставить, но тогда DLL_PROCESS_DETACH произойдет при уничтожении приложения.

поэтому лучше всетаки динамика, чтоб оно происходило и там и там одинакого.

[Genco]

Ещё раз спасибо! Теперь всю систему понял, как писать.