E aí meu amigo, prá resolver o problema do serrilhado, dá uma estudada a respeito do antialiasing, na aba de render do vray, tem bastante material a respeito aqui no site, com relação a tua cena, de maneira geral, está boa, com mais alguns estudos, você vai decifrando os pequenos detalhes que resultam numa bela cena, como por exemplo: ajusta a tua câmera prá altura do expectador, entre 1,60 e 1,80 mts, se estiver usando uma câmera standard do max, depois desses ajustes, aplica um câmera correction que enquadra melhor a cena, se for o caso da vrayphysicalcâmera, aplica um guess vertical shift.
A respeito do teu material de vidro, segue a dica do Saulo, o tópico que ele criou tá recheado de bons materiais, tudo com as devidas setagens, o que ajuda demais nos estudos...
um abraço e até mais
\"O barulho do jornal que queima é o seu protesto contra a incineração de idéias\" LFV