Oi Pedroca, tudo bem?
Seja bem vindo ao nosso site, espero que goste e que participe bastante.
Se você está tendo dificuldade com iluminação e materiais, você está o mais normal possível, porque todo mundo sente dificuldade justamente nisso.
Iluminação não é fácil mesmo, a primeira coisa que precisa ter em mente é que não se usa apenas as luzes do local.
Se você for tirar uma foto profissional de um ambiente para sair numa revista, vai usar uma burduada de equipamentos de iluminação, refletores imensos que puxam a maior energia.
Tudo para iluminar de acordo, se colocar luz de um lado, tem que colocar um pouco do outro, para não deixar escuro, e assim vai, é um trabalho difícil na realidade.
Em 3D temos muitas vantagens, mas ainda é difícil, porque na realidade eles conseguem ver em tempo real o resultado, a gente não, temos que renderizar e as vezes esperar horas por isso.
Livros sobre iluminação para fotografia podem ajudar muito.
A criação de materiais é uma questão de conhecer bem os recursos dos materiais e observar muito bem o mundo real.
O legal depois que começa a trabalhar com 3D é que você passa a ver coisas que antes nem percebia, reflexos, refrações de materiais que são lindas e acontecem em tempo real na nossa frente. :)
Vendo como acontece no mundo e sabendo os recursos dos materiais, fica fácil reproduzir.
Sobre render, eu acho que é importante aprender bem sobre luzes e materiais no render padrão do Max, porque é super rápido.
Tudo que aprender nele, poderá usar em outros renders, se escolher o Mental Ray então, poderá usar exatamente tudo da mesma forma.
Quando chegar neste ponto, só precisará aprender a configurar o Mental Ray, porque o resto você já sabe.
Entre V-Ray e Mental Ray, não terá diferença nenhuma no resultado final, poderá chegar no mesmo resultado com os dois, mas no V-Ray tem que usar muitas coisas próprias dele em vez das coisas padrões do Max, como luzes, materiais, sombras, entre outros.
Dá uma lida nos tutoriais sobre luzes aqui no site, tem sobre luzes Standard e Photometrics, estão na seção Tutoriais, clicando no botão do menu.
Abraços