Cara, esse erro só acontece quando a pessoa está começando e não sabe configurar direito o Caustics.
Porque depois que aprende nunca mais acontece.
Comigo acontecia direto também, mas depois que estudei as aulas de Caustics do curso da 3D1 eu aprendi.
Precisa de 3 coisas pro Caustics funcionar.
1- O objeto tem que estar habilitado para gerar Caustics na aba Mental Ray da janela Object Properties.
2- O material tem que ter shaders que controlem os Photons.
Se você não sabe criar materiais no Mental Ray, use o material Raytrace que vai dar certo, porque ele configura os Photons automaticamente.
É só colocar um material Raytrace com branco no transparency que vai criar o efeito sem problema.
3- Todas as luzes da cena tem que atingir o objeto que cria o Caustics.
Se só uma luz da cena atinge o objeto, nas outras vc tem que zerar o Caustics Photons no menu do mental ray que aparece nas luzes.
Fazendo estas 3 coisas, nunca mais vai dar esse erro!!!