Oi Prado, tudo bem?
Não existe muito material de estudo sobre o Mental Ray para 3ds max, porque faz pouco tempo que ele está integrado ao programa, quem tem bastante experiência pode ler tutoriais de XSI ou Maya e adptar para o 3ds max, que tem os mesmos Shaders.
Só que se você está iniciando no Mental Ray, nem deve se preocupar com isso, porque é uma parte que nem precisa chegar se não quiser.
O Mental Ray é totalmente compatível com os recursos padrões do Max, porque a Autodesk escreveu um tradutor junto com a Mental Images para traduzir tudo do Max para Shader do Mental Ray na hora do render.
Então, basta usar os recursos padrões de materiais que você faz quase tudo que precisa, vai necessitar de 4 Shaders do Mental Ray para gerar os materiais que são impossíveis com os recursos padrões, como vidro jateado e aço escovado, por exemplo.
Eu explico tudo isso no vídeo curso de Mental Ray da 3D1, por isso que é pré requisito para estudar o Mental Ray, tem que saber criar materiais muito bem no Max e conhecer tudo sobre as configurações das luzes padrões, sem isso fica difícil.
E com isso pode fazer o que quiser depois de aprender a configurar o Render, que é o mais importante, usando alguns Shaders de Photons, de Volume e alguns específicos para efeitos, como o Glow, por exemplo, você faz tudo que precisa, não há necessidade de compor materiais puros do Mental Ray.
Quem usa renderizadores de terceiros precisa aprender tudo de novo com os materiais deles, porque não são compatíveis com os recursos padrões do 3ds max, mas quem migra para o Mental Ray tem justamente essa vantagem, só precisa aprender o render, não precisa aprender tudo de novo na parte de materiais e luzes.
Agora, no futuro, quando estiver conhecendo bem o Mental Ray, vai ficar fácil descobrir como usar os Shaders, com alguns poucos testes poderá usar todos os Shaders que acompanham o 3ds max.
Mas para montar materiais puros não será tão simples, terá que destravar alguns Shaders que são bases de materiais, para poder ter bases tipo Blinn, Phong, Lambert, entre outras.
A Autodesk fez de tudo para facilitar para os iniciantes, por outro lado complicou mais para quem tem mais experiência e deseja criar materiais puros, então, para quem está começando fica realmente difícil.
Abraços