Oi Rogermax, tudo bem?
Certamente muda bastante a qualidade do render só de trocar para o Mental Ray.
Porque no Mental Ray tem diversas configurações que deve fazer para ficar bom, mesmo sem usar GI e nenhum outro recurso de iluminação avançada, a cena vai ficar muito pior, vai ficar toda serrilhada, porque o render padrão já vem com o Anti-aliassing configurado e o Mental Ray não.
Da mesma forma que qualquer outro render profissional, assim que troca para ele e renderiza, a cena fica serrilhada, porque no mínimo tem que configurar o Anti-alias. No V-Ray é a mesma coisa, por exemplo.
No render padrão é só clicar em render e boa, já sai tudo certo, só depende das configurações das luzes e dos materiais para ficar bom.
Num render profissional, além das configurações das luzes e dos materiais apropriadamente para este render, ainda tem toda uma gama de configurações dos efeitos e recursos do render.
Abraços