Olá Igor Augusto.
Primeiro, tenha em mente que para configurar corretamente estes parâmetros do Mental Ray e qualquer outro renderizador, você precisa levar em conta a cena. Para cada cena tem uma configuração ideal. Não é como receita de bolo que fazendo uma vez sempre será igual. Para cada cena haverá uma configuração diferente. Se alguém lhe disser para fazer isso ou aquilo, pode até ser que fique com uma qualidade razoável, mas vai levar muito mais tempo do que se soubesse como configurar corretamente o renderizador. Recomendo que você estude mais a fundo primeiro o Scanline e entenda como ele funciona, assim irá aprender a usar o render padrão do 3ds max, depois que entender como ele funciona, seu aprendizado em qualquer outro renderizador será bem mais rápido e fácil. ;)
Um abraço.
Always Outnumbered, never outgunned!
3daulas.wordpress.com - Em construção.