Oi Perectus, tudo bem?
A forma de pensar no Mental Ray não é igual ao V-Ray ou ao Brazil Render, não basta aumentar os Samples, porque eles são baseados nos Photons, se os Photons estão muito espaçados, muito pequenos, muito salientes, pode tuchar o FG lá no alto que ele não vai conseguir suavisar, ou se conseguir vai ser a um custo absurdo de render.
Primeiro se configura os Photons vendo a imagem cheia de pontinhos (Photons), é de acordo com esse pontilhado que vai saber se está bom ou não, estando bom o MR pode conseguir suavisar legal mesmo com 1000 no FG, as vezes até menos.
E não é apenas os Samples do FG que controlam a qualidade, tem diversos outros parâmetros, tem Max Trace Depth, tem os Samples per Pixel da janela Renderer, nesta mesma janela tem a configuação do tipo de traçamento das sombras, sem falar no ajuste correto dos Shaders, e ainda depende do tipo de sombra que está usando, tipo se for Area Shadow não é jogo usar essa sombra com o MR, Shadow Map também não, ou usa Ray Traced ou usa as luzes do próprio MR.
Abraços