olá, sua dúvida já foi muito comentada no fórum, vc pode utilizar o botão vermelho "busca" com o assunto para localizar mais tópicos que debateram sua dúvida anteriormente. quanto à sua dúvida, o vray é um render relativamente novo, mas já vem mostrando muito bons resultados, tudo depende de saber como setar os parâmetros, saber como funciona o render, o que não é muito fácil. se vc já conhecer bem o render scanline que vem com o max ótimo, vc está preparado para encarar um render com gi, senão é melhor aprender a iluminafr bem antes com luz standard, depois aprender gi. o mental ray é um dos renders com mais tempo de mercado, e é usado em grande parte das produções cinematográficas que vc vê por aí, desde efeitos especiais a desenhos animados. uma grande vantagem em relação ao vray é que ele vem com o max a partir da versão 6, ou seja, maior integração com o programa no geral. aqui no fórum temos dois grupos de estudo de iluminação, um para mental ray e outro para luzes standard, de uma olhada por lá.
um abraço!!!