Se é uma face só, um plane sem espessura como vc falou, o renderizador tá tratando tudo que está atrás da face como se fosse dentro do volume de um bloco de vidro. É a mesma coisa que acontece neste tuto de caustics daqui do site:
http://www.tresd1.com.br/conteudotutoriais.php?t=26620
Nele, o André utiliza apenas um plane pra fazer a superfície da água, não sendo preciso usar um box que englobe todo o volume da piscina pra conseguir a refração. Dependendo do material tem a opção de colocar Thin Wall Refraction, que desabilita a distorção baseada em IOR e na espessura do sólido. No Arch&Design essa opção está em Advanced Rendering Options. Ou vc pode, como o Maciel falou, estabelecer uma espessura pro vidro, aí o renderizador vai saber onde acaba o volume do sólido e vai limitar a refração. Não precisa nem descartar os planes, taca um modificador shell neles que resolve.