Oi Marco, tudo bem?
Eu fico muito feliz de ver que você está aprendendo bem o Mental Ray com o vídeo curso da 3D1, o mais gratificante de tudo é quando algum leitor que comprou posta uma imagem bonita no fórum. Parabéns.
É só uma questão de tempo para ficar realmente fera e não ter mais nenhum problema, nenhum mesmo, porque o Mental Ray não apresenta os problemas que o V-Ray apresenta, mesmo com quem é experiente nele acontecem problemas.
No Mental Ray não, depois que pegar as manhas, nunca vai dar errado, nunca vai dar mensagem de erro, nunca vai aparecer artefatos na cena.
O que aconteceu na sua imagem nunca aconteceu comigo, mas eu também nunca usei um mapa de um render menor num render maior, porque não está certo.
O Photon Map tudo bem, porque o Photon Map não depende da visão da cena, ele é feito para a cena toda independente do que está sendo visto e do tamanho do render.
Mas o Final Gather calcula cada pixel que está sendo visto na imagem.
Tente renderizar novamente deixando salvo apenas o Photon Map, mas calculando novamente o FG, assim, não deve dar o problema.
Na verdade você até poderia deixar o mapa de FG salvo, mas teria que habilitar o Rebuild (Read/Write do Max 9) para ele incrementar o mapa onde não tiver informações suficientes, assim, ele vai usar o que está salvo onde der, e onde precisar de cálculo, ele vai calcular e acrescentar ao mapa.
Abraços