Olá danilo! Se vc realmente quiser usar o vray, primeiro vc deve instalá-lo. Se tudo der certo, vc vai conseguir uma tela igual a essa:
Habilite o renderizador como vray. Vá em materiais e clique em get material, seguido de vraymtl:
A opção vraymtl só aparece se o vray for habilitado como render padrão. Agora, se vc optar por usar o mentalray, isso não é necessário, pois o MR já vem instalado no max (a partir da versão 6) e todas as funções e materiais do max são compatíveis com esse poderoso render. Eu atualmente estou usando vray, mas pretendo usar o MR em breve. Sei que o MR é um pouco mais complicado, mas ele possui mais possibilidades de controle e com o material didático feito pelo André, junto com o suporte do pessoal aqui do site acho que ficou mais fácil mergulhar no MR. Só pra tu ter uma idéia, dá uma olhada nessas imagens feitas com o MR pelo moderador Zulmar JR.
http://www.tresd1.com.br/viewtopic.php?t=17185&highlight=
É isso! Espero ter ajudado :D .