Oi Marco, tudo bem?
Essa questão de Environment que você fala, é bem tranquila e você vai tirar de letra, é só conhecer bem as luzes Sky e ter imagens panorâmicas adequadas, dê preferência HDR.
Agora, a questão de criar materiais realistas já é bem mais complicada e depende de muita esperiência.
É importante conhecer bem todos os recursos para criação de materiais, mas é muito importante também observar o mundo, ver como os materiais reagem com a luz, os efeitos que eles produzem.
Isso é uma questão de treino e prática, você vai perceber como a gente começa a ver coisas que antes passavam completamente desapercebidas, como reflexos borrados, Caustics, GI, Fresnel e muitos outros efeitos.
No começo é melhor ver imagens reais para perceber estes efeitos da luz e de materiais, com o tempo e treinando bem o olho, você passa a ver a olho nú mesmo.
Assim, percebendo bem como os materiais se comportam e conhecendo os recursos do programa, você vai conseguir reproduzir qualquer material real.
Eu tenho certeza que o Vídeo Curso de Mental Ray vai te ajudar muito, porque vai te deixar conhecendo todos os recursos do render e os principais Shaders, mas só a prática e a observação vão permitir que você use estes recursos para reproduzir com perfeição os efeitos que acontecem na realidade.
Abraços