Oi gente, tudo bem?
É importante perceber que o Mental Ray não entende nenhum recurso do 3ds max, qualquer recurso do programa que você usa, vai ser convertido num Shader do Mental Ray, por isso que tudo fica melhor no Mental Ray e algumas coisas apresentam comportamento bem diferente, como no caso destes mapas Flat Mirror e Reflect/Refract.
Ambos são convertidos para o Shader Mib-Glossy_Reflection na hora do render.
Vejam que na hora de renderizar aparece a mensagem "Translating Scene", é nesta hora que o tradutor que a Autodesk fez está traduzindo tudo da cena para Shaders do Mental Ray.
O problema do Mib_Glossy_Reflection é não tem o sampleamento individual, portanto, precisa de mais conhecimento da pessoa para compor com outros Shaders e poder fazer isso, desta forma não pesa no render.
Mas existem diversos outros Shaders de terceiros que fazem reflexo borrado e são muito bons, além de mais rápidos, o Reflection Utility é uma ótima opção e te para download aqui na 3D1.
Abraços