Ai daviassumpcao, bem vindo aqui.
Mas pelo que perguntou vc tá bem no início dos estudos do Mental Ray, dai é melhor estudar bem o controle dos Photons com GI antes de partir pra Caustics.
Vc já sabe configurar bem os Photons com GI?
Pra Caustics funcionar tem que ter 3 coisas certas na cena, a luz certa, o objeto certo e o material certo, dai vai depender ainda de configurar certo os Photons do Caustics pra ele aparecer e só vai aparecer se tiver em escala real, se não vai ter que exagerar no multipler do Caustics pra fazer aparecer.
O objeto tem que estar marcado como gerador de caustics, todas as luzes da cena tem que estar acertando ele, se alguma luz não acertar ele vai dar essa mensagem, neste caso tem que zerar a emissão de photons de caustics no menu desta luz.
Depois tem que criar um material que emite Caustics, pra usar materiais do Mental Ray tem que conhecer bem.
É muito mais fácil colocar um material de vidro feito com o Raytrace, ai não vai ter que configurar shaders de Photons nem nada disso.
Se tudo isso estiver certo, não vai dar mais estas mensagens de erro, pode ser que não apareça o Caustics, mas pelo menos os erros não vão dar mais.
Uma dica 10 mesmo pra vc aprender tudo isso do Mental Ray e mais um pouco é o curso que tem aqui na 3D1, eu comprei e aprendi por ele, vale cada centavo.