Формат "функции обработки сообщений" жестко задан:
для обычных окон (windows):
Код:
LRESULT CALLBACK WindowProc(
HWND hwnd,
UINT uMsg,
WPARAM wParam,
LPARAM lParam
);
для диалогов (dialogs):
Код:
INT_PTR CALLBACK DialogProc(
HWND hwndDlg,
UINT uMsg,
WPARAM wParam,
LPARAM lParam
);
Или я Вас неправильно понимаю?