Also ich wüsste nichts, was dagegen sprechen würde, einen WLAN-Repeater mit WPA laufen zu lassen.
Er muss nur die gleiche SSID, den gleichen Kanal und das gleiche Passwort nutzen wie der WLAN-AP mit dem er kommunizieren soll. Mit WDS funktioniert das ganze jedenfalls ohne Probleme. Man sollte halt nur drauf achten, dass man möglichst Repeater und AP vom gleichen Hersteller kauft, da sonst Kompatibilitätsprobleme zwischen den Stationen auftreten können. das könnte auch der Grund dafür sein, dass WPA bei dir nicht funktionierte.