pô cara, ai ficou complicado heim, porque vai ter que explicar tudo.
tem que entender os photons, depois tem que entender como suavizar com o final gather, tem que entender o sistema de antialiasing, sem contar as coisas básicas como sempre usar luz com sombra raytrace.
aqui nesta página tem um monte de tutoriais de Mental Ray, dá para conhecer bastante coisa: http://www.tresd1.com.br/artigos.php?t=14681
mas se quiser entender tudo mesmo, cada recurso que tem lá nas abas dele, a criação de materiais com shaders como o glass, o metal, recursos de volume com o parti volume, caustics, técnicas para animação de maquete e mais um monte de coisa, eu recomendo o curso de mental ray aqui da 3d1, eu aprendi nele e valeu cada centavo.