Oi Luisaum, tudo bem?
Provavelmente você está usando materiais que o Mental Ray não entende direito.
Muitas das técnicas que usamos na criação de materiais para o render padrão do programa são aceitas pelo Mental Ray, mas algumas não.
Por exemplo, é comum no render padrão usar um Falloff no Reflection e colocar dois Ray Trace, para variar o nível de reflexão de acordo com as curvas do objeto, muito usado em vidros e metais.
O Mental Ray não vai aceitar isso, ele vai renderizar sem dar mensagem de erro, mas aparecerão manchas pretas serrilhadas na imagem. Neste caso teria que usar um material RayTrace com Falloff no Reflection dele.
Verifique seus materiais com cuidado, certamente é um deles que está gerando este problema.
Mas, se está usando o filtro Mitchell, ele pode gerar este problema dependendo dos efeitos usados na cena e dependendo da versão do seu Mental Ray.
No Mental Ray 3.4 isso acontece frequentemente com o Mitchell, tente mudar para Box ou Gauss.
Abraços