Oi Poison, tudo bem?
Seja bem vindo ao nosso site, espero que você participe bastante aqui com a gente.
Sobre a sua dúvida das manchas coloridas, com certeza absoluta são materiais errados na cena.
O Mental Ray aceita qualquer composição estranha de mapas e materiais que você fizer, mas dependendo da composição ele vai gerar estes artefatos na cena.
Se você estiver usando os materiais Architectural que vem com o Max, com certeza absoluta são eles, porque estes materiais são para o render Radiosity, tem uma certa compatibilidade com o Mental Ray, mas depende das configurações, então, é melhor usar materiais Standard, Raytrace e se estiver no Max 9, a melhor opção é usar o material Arch&Design.
Para ter certeza, faça um pequeno teste, acessa a ficha Processing na janela de Render, lá tem o Override Material, habilita este recurso e arrasta um material Standard cinza padrão para o Slot, manda renderizar e veja, com certeza absoluta não vai aparecer as manchas, provando que são os materiais.
Agora, sobre as manchas na parede e a iluminação estourada, isso é uma questão de configurar corretamente o mapa de Photons, o mapa de Final Gather e as luzes da cena.
Os efeitos avançados de iluminação fazem a luz refletir pela cena, então, é necessário deixar as luzes mais fracas, pois com o GI tudo ficará mais claro.
O ajuste dos Photons é complicado mesmo, leva tempo para pegar o jeito, no vídeo curso de Mental Ray eu gasto quase a metade só explicando sobre isso, mas depois que pegar o jeito dos Photons ficará uma maravilha, porque vai configurar a cena de primeira sem fazer nenhum teste.
O Final Gather depende do ajuste correto dos Photons para ficar bom, se você aumentar os Samples ele vai forçar a suavização, mas vai gastar muito tempo de render.
O ideal para cenas internas é usar Photons e Final Gather, mas é muito mais fácil fazer só com o Final Gather, então, teste com ele sozinho no começo.
Abraços