Oi Woshngton, tudo bem?
Os renderizadores possuem um recurso para limitar as reflexões e evitar que fiquem renderizando uma imagem para sempre, como aconteceria se colocasse um espelho na frente de outro.
No V-Ray este recurso se chama Max Depth e fica na parte da reflexão do VRayMtl, como mostram as imagens em anexo.
A primeira imagem mostra a renderização de uma cena com 3 espelhos usando apenas 2 no Max Depth, desta forma, o resultado da terceira reflexão é desprezado e o V-Ray aplica a cor preta no lugar ou a cor que estiver definida no Exit Color.
A segunda imagem mostra a renderização usando 5 no Max Depth, que é suficiente para exibir todas as reflexões, note que até os reflexos nos Teapots ficaram mais detalhados.
Portanto, você precisa encontrar o valor certo para a sua cena, mas aumente aos poucos porque influi bastante no tempo de render.
Abração e tudo de bom.
André Vieira