Welchen Hook Typ verwendest du? Mit der nicht low-level Variante der Keyboard Hooks hatte ich auch schonmal Probleme. Läuft irgendeine Art von Sicherheits-Software?
Edit:
Folgender Code funktioniert bei mir unter Windows 10 - 64 Bit (für
WH_KEYBOARD_LL
benötigt man sogar nichtmal eine
Dll 
):
Delphi-Quellcode:
var
Hook: HHOOK;
function TestHook(code: Integer; wparam: WPARAM; lparam: LPARAM): LRESULT
stdcall;
begin
Winapi.Windows.Beep(1000, 50);
Result := CallNextHookEx(Hook, code, wparam, lparam);
end;
procedure TfrmMain.Button1Click(Sender: TObject);
begin
Hook := SetWindowsHookEx(WH_KEYBOARD_LL, TestHook, hInstance, 0);
if (Hook = 0)
then RaiseLastOSError;
end;