Eu vi que você deixou o raio dos photons em 0 no GI, desabilita esta opção, assim o mental ray vai calcular o tamanho da cena e setar automaticamente o tamanho dos photons em 10% do tamanho original da cena, um valor que geralmente dá certo. Outra coisa, faz o que já foi indicado, diminui o preset do FG, se fosse pra usar um preset tão alto, eu faria um render só com o FG usando o brute force dele, daria o mesmo tempo de render e com nitidez muito maior...
Já observou se há alguma mensagem de erro no log do mental ray? Geralmente o pessoal deixa habilitado pra abrir o log só quando dá algum erro, mas o certo é sempre ficar atento ao que se informa lá.
Sobre os samples da skyportal, concordo, faça testes graduais, usando sempre um valor após o outro. Caso não esteja conseguindo, posta a cena pra análise.
Daniel.
Always Outnumbered, never outgunned!
3daulas.wordpress.com - Em construção.