Oi Weberton, tudo bem?
Realmente tem muitas coisas envolvidas no Mental Ray e muitos detalhes para estudar, é estudo para um ano.
Mas se você fez este tijolo de vidro, fica super fácil melhorar, o problema é chegar neste ponto, depois é mais fácil.
Tudo será feito da mesma forma que mostra no tutorial, mas vai usar um material Raytrace padrão do Max em vez do material V-Ray.
No tutorial que te indiquei está explicado como fazer vidros com Raytrace.
Na hora de renderizar que pode acontecer o lance de algumas partes do objeto ficarem muito escuras, ai é o problema de poucas refrações, como disse na outra mensagem.
Só de você aumentar para 10 ou 12 no Max Depth e no Max Refractions, que fica dentro da ficha Renderer da janela Render Scene, teclando F10, o vidro não ficará mais escuro e terá mais refrações.
Agora, a parte de Caustics já complica um pouco mais, mas se quiser fazer isso, depois que tiver feito estes ajustes mais básicos, posta aqui que a gente vai te ajudando.
Abraços