Oi Neosmar, tudo bem?
Este é o mesmo problema que falei para você naquele tópico que também ficou serrilhado, lembra?
Tudo que é muito brilhante e muito intenso cria este serrilhado porque o sistema de Antialiasing dos renderizadores trabalham com o contraste entre os Pixels para suavizar, quando um Pixel é muito mais intenso do que os outros ele não suaviza.
Se você diminuir a intensidade do material vai resolver o problema, por exemplo, aquele parâmetro "Compensate Camera Exposure" deve resolver.
Porém, é capaz de não parecer que está tão iluminado, pois na vida real a luz estoura na lente da câmera formando o efeito que chamamos de Glare, Glow ou Bloom, como mostra a primeira imagem em anexo.
Este efeito sobrepõe o serrilhado de coisas altamente iluminadas ou brilhantes e fica com o aspecto de bem intenso, portanto, se deseja que pareça bem aceso tem que deixar assim com o serrilhado e aplicar os efeitos de pós-produção que estão disponíveis no Frame Buffer do V-Ray, como mostra a segunda imagem em anexo.
Abração e tudo de bom.
André Vieira