Oi Antônio, tudo bem?
Você pode instalar o Mental Ray no Max 2018 da mesma forma que instalou o V-Ray, pois o Mental Ray agora é um Plug-in gratuito para renderização local, só tem que pagar se for renderizar em rede.
O download fica nesta página:
http://www.nvidia.com/object/download-mental-ray.htmlSe você tem o Max 2012 com o Mental Ray, abra o arquivo da versão 2012 que está no download, delete o estande de exemplo e coloque o seu no lugar, dai tem que renderizar corretamente.
Porém, pode ser que ainda demore na renderização dependendo das configurações dos seus materiais, pois o que mais pesa no tempo de render são os materiais e alguns deles são críticos como aço escovado e vidro jateado, por exemplo.
Por estas e outras que falei para você fazer este teste no Mental Ray, onde está mais acostumado, assim, vou poder te explicar estes detalhes de materiais e iluminação para você não ter mais problema com renderização.
Agora, para você ir estudando o V-Ray paralelamente e poder migrar no futuro, você precisa configurar o 3ds max 2018 para trabalhar melhor com o V-Ray, basta acessar o menu Customize > Custom UI And Default Swticher, assim, abrirá a janela mostrada na primeira imagem em anexo.
Selecione a opção MAX.vray no quadro do lado esquerdo, DefaultUI no quadro do lado direito e clique no botão Set na parte inferior da janela.
Depois disso terá que reiniciar o 3ds max, mas quando ele abrir novamente o Material Editor estará populado com VRayMtl e outras configurações do programa estarão ajustadas para o V-Ray.
Sobre as luzes, você precisa clicar na listinha que tem logo no início do painel Create > Ligths para acessar as luzes do V-Ray, como mostra a segunda imagem em anexo.
Por padrão vem a opção Photometrics, que tem as luzes do próprio Max e as luzes do Mental Ray porque o Mental Ray era integrado no programa, as luzes dos Plug-ins sempre ficam em opções separadas na lista das luzes.
Depois posta o resultado do teste que aos poucos a gente vai resolvendo os problemas e logo estará confiante com a renderização.
Abração e tudo de bom.
André Vieira