Oi Savino, tudo bem?
Com certeza absoluta é a baixa qualidade nas configurações do render.
Mas não é muito simples responder como resolver, porque teria que ensinar a usar o Mental Ray.
Sabendo usar o Mental Ray, isso nunca acontece, nem com GI e nem só com FG.
Numa cena como a sua, o correto é usar GI e FG, pois o FG sozinho é apenas para cenas externas, tipo uma fachada por exemplo.
Se tem muitas áreas em sombra como a sua imagem, o correto é usar Photons (GI).
Para ficar bom depende puramente da configuração dos Photons, porque com os Photons bem configurados, fica bom mesmo que a configuração do FG esteja errada.
Mas com os Photons configurados de forma inadequada, não tem o que fazer no FG para corrigir, vai ficar manchado.
Usando apenas o FG numa cena como essa, vai ter que tuchar a configuração bem alta para solucionar a iluminação nas áreas mais complexas em sombra.
Mas olhando pela sua configuração na imagem que postou, realmente está tudo muito estranho, com valores absurdos em alguns parâmetros e baixos demais em outros.
Por exemplo, nunca vai usar 20 no Diffuse Bounce, nem 10, nem 5. 20 é um valor super absurdo. Arregaçando vai usar 3.
Outro problema é ter marcado para salvar o mapa de FG, assim, nunca vai conseguir resolver o problema, porque o mapa está salvo e o Mental Ray vai usar sempre o mesmo.
Por isso que você muda um monte de configuração e não altera nada no render!!!!
Usar o método do Interpolate Over Nun FG Points é ruim, foi feito para iniciantes que não saber usar o render, não costuma ficar bom e gera problemas.
O certo é aprender a configurar o Radius do Final Gather, como sempre foi no Mental Ray, assim, sempre vai conseguir o melhor resultado com o menor tempo de render.
Usar 500 no Rays per FG Point e 0,1 no Initial FG Point também é estranho, seria melhor diminuir os Samples para 128 e aumentar o Initial FG Points para 0,5.
Eu sugiro que você leia os tutoriais de Mental Ray aqui da 3D1 e aprenda a configurar pelo método normal, sem usar essas coisas que colocaram para iniciantes, porque mais complicam do que ajudam e deixam a pessoa sem entender e sem dominar o Mental Ray.
Os tutoriais de Mental Ray estão nessa página: http://www.tresd1.com.br/artigos.php?t=14681
Abraços