Oi the_borba, tudo bem?
Não precisa instalar o V-Ray para fazer essa troca, basta abrir o modelo numa boa e dar OK nas mensagens de erro.
Depois, seleciona o objeto, abre o Material Editor, clique em Get Material, muda para Selected no Browse From e seleciona os materiais aplicados no objeto para aparecerem no Material Editor.
Depois, clica no botão Missing Map que aparece no lugar do botão com o nome do material logo abaixo das esferas de amostra, normalmente tem o nome do material Standard, vai abrir novamente o Material/Map Browser, escolhe um material Standard ou um material qualquer do 3ds max, pois todos são compatíveis com o Mental Ray, ainda pode escolher materiais próprios do Mental Ray como os amigos falaram.
Pronto, o seu objeto já está com um material compatível com o Mental Ray, é só ajustar conforme desejar.
Abraços