Seja bem vindo no fórum cara.
Valinhos é perto de Campinas né?
O André (dono do site) é seu vizinho então!!!
Sobre o serrilhado, aqui no site tem um capítulo do curso de Mental Ray de graça e ele fala justamente sobre antialising, baixa nesse link: http://www.tresd1.com.br/conteudonoticias.php?t=24716
Do resto, sua cena está ficando boa, precisa melhorar os materiais, tipo o piso que está sem reflexo, mas no geral está legal.
Eu achei que falta um pouco de GI na cena, se diminuir um pouco o valor do decay no GI do Mental Ray, lá na aba indirect illumination, o GI fica mais forte e dá um ar mais aconchegante no ambiente.
Ele vem com 2, testa com 1.9 e 1.8 para ver como ficar, se diminuir muito estoura o GI.
Força cara, aqui no fórum vc vai evoluir rápido, o pessoal é fera