Oi Feitosa
Em qualquer sistema de render (Mental Ray, Vray, Brazil, Final Render, etc) que envolva cálculo de quantidades de raios traçantes pode ocorrer este tipo de defeito. Este defeito é chamado de "Artifact" (artefato).
É um defeito geralmente produzido por um número insuficiente de raios calculados, se você está usando GI é normalmente corrigido no Mental Ray habilitando-se o Final Gathering aumentando o número de "samples".
Entretanto conforme o setup da cena pode ser que apenas aumentando a relação de "samples per pixel" no Sampling Quality rollout seu problema seja resolvido.
Renderizadores mais compléxos lidam com multiplos parâmetros, então para saber exatamente o que pode estar provocando os "artifacts" no seu trabalho você precisa dar uma descrição detalhada do setup que está usando no Mental Ray em todas as janelas (Render, GI, Final Gather, etc) e todos os parâmetros de iluminação.
Espero ter ajudado
Phy