Oi Cominho, tudo bem?
Você modificou as unidades do Max e está trabalhando em escala real?
Se você fez isso, dependendo da modificação, o Mental Ray para de funcionar direito.
Se colocou em Metros e dentro do botão Units Setup deixou em Inches, o Mental Ray não vai mais funcionar enquanto não modificar.
Não é boa idéia modificar as unidades do programa até conhecer bem ele.
Se for estudar o Mental Ray, estude no tamanho de mundo padrão do Max, assim, evitará muitos problemas.
Depois que tiver experiência, ai fica fácil de perceber que tem algo de paranormal dando errado na cena.
Abra uma cena zerada, volte as unidades do Max para o padrão, Generic Units e Inches no Units Setup, importe o seu modelo da outra cena com o File>Merge.
Aumente o tamanho dele com o Scale até ficar normal no "mundo" padrão do Max.
Tente renderizar novamente com o Mental Ray usando as mesmas configurações da cena anterior, é provável que renderize certo agora.
Abraços