Oi Raph, tudo bem?
Por isso que eu perguntei se tinha usado os mapas que vem de exemplo.
Porque para fazer o mapa certo já é um pouco mais chato.
Se você entende bem sobre Alpha e Normal Map, fica facinho de sacar como funciona o Relief.
Bump é uma simulação de relevo usando 8 bits, ou seja, apenas um canal com 256 tons de cinza.
O Normal Map é um Bump mais avançado que interpreta uma imagem de 24 bits, com 3 canais de cores (R,G,B) de 8 bits cada. Conseguindo melhores resultados.
Então, ainda falta 8 bits para completar a imagem, pois ainda poderia usar o canal Alpha.
Foi o que o Fábio Policarpo fez, usou o Alpha para guardar um mapa em tons de cinza para definir a altura do relevo, assim, conseguiu usar o Alpha para "recortar" o mesh, deixando transparente nas bordas e criando a sensação de saliência perfeita, antes só possível com Displacement, que é muito mais pesado e faz a rugosidade de verdade na malha.
Para fazer o Relief Map você precisa gerar um Normal Map da textura, para ficar perfeito tem que ser de um objeto 3D, mas pode gerar a partir de texturas usando o plug-in da Nvidia para o PhotoShop.
Dá uma olhada na seção Notícias que tem link para baixar ele, ou procura na Nvidia.
Depois, basta que você crie um mapa no canal Alpha para definir os relevos, como um Bump.
Pronto, o mapa de Relief vai funcionar.
Abraços