Ola.
Creio que esse tutorial que você esta seguindo, não esta passando informações muito corretas, (alguém com conhecimento mais aprofundado me corrija)... O norma map usa cores para identificar a direção da luz e criar a ilusão das deformações, se você pinta uma mapa em tons de cinza, você tem exatamente o mesmo valor no 3 canais de cor RGB, então não sentido aplicar um filtro e converter em normalmap uma imagem que foi pintada dessa forma. Se você aplicar essa mesma imagem que esta tentando aplicar o filtro como um mapa de Bump, deve gerar o mesmo efeito.
Mas tambem vale dizer que eu ja vi esse filtro dar erro e não funcionar, neste caso eu desinstalei e baixei ele novamente e resolveu.
Aqui tem um tutorial que deve te ajudar. http://www.youtube.com/watch?feature=player_embedded&v=ejHiIsth-7E
Abraço