Oi Dado, tudo bem?
Você já leu os tutoriais de Mental Ray aqui do site, neles eu explico como configurar os Photons e o Final Gather.
Para ficar bom depende de acertar bem o mapa de Photons e depois suavizar com o Final Gather.
Quando o mapa de Photons está correto, poderá usar baixos Samples de Final Gather para conseguir bom resultado com baixo tempo de render.
Enquanto está ajustando os Photons, eles aparecem assim na cena mesmo, é o normal.
Mas da forma que aparecem na sua imagem, ainda não está adequado para ligar o Final Gather e suavizar.
Este é um assunto denso e cheio de detalhes, metade dos vídeos do curso de Mental Ray da 3D1 eu gasto explicando isso, então, é impossível de explicar aqui numa mensagem de fórum.
O que dá para ver pelas configurações que postou, não tem necessidade de habilitar nada do grupo Volumes, porque não tem nada de Volume na cena.
Dá para ver que você trocou as unidades do Max, o que nunca deve ser feito, só quando a pessoa tiver grande experiência no 3ds max e não preciar mais de tutoriais ou dicas dos outros, porque nada vai funcionar igual no seu Max, todos os valores usados serão diferentes das pessoas que usam o Max com unidades genéricas padrão.
E se realmente as medidas dos objetos estiverem em escala real na cena, o raio com 45 cm é absurdamente imenso.
Também percebe-se o Multipler com 1,2 e ele não deve ser modificado, para obter resultados fisicamente corretos, o Multipler deve sempre ser 1.
E a quantidade de Photons na cena está muito pequena, 100 mil é muito pouco.
Na parte do Final Gather, não adianta habilitar este recurso sem o Photon Map estar correto, porque ou não vai conseguir suavizar ou vai gastar um tempo absurdo de render para poder suavizar.
Mas supondo-se que o Photon Map esteja perfeitamente correto, não é boa idéia usar o método de interpolação do Max 9, que foi colocado apenas para atrair iniciantes, porque todo iniciante apanha muito com o Radius.
Só que este sistema novo é ruim, não dá certo sempre, exige mais Samples de Final Gather e mais tempo de render.
O correto para dominar bem o Mental Ray é habilitar a interpolação pelo Radius no FG e configurar o Radius de acordo com a cena, assim, sempre vai obter o melhor resultado com o menor tempo de render.
Abraços