Oi PKopp, tudo bem?
Como eu sempre indico para todo mundo que está começando no Mental Ray, os Shaders exclusivos dele só devem ser estudados depois de conhecer muito bem o Mental Ray, porque é a parte mais complicada e a Autodesk fez de tudo para simplificar para os iniciantes, permitindo que gere quase tudo sem precisar recorrer aos Shaders exclusivos do Mental Ray, como é o caso do Displacement.
Para fazer esse Displacement da sua cena não precisa do Shader do Mental Ray, só precisa do Shader exclusivo quando vai dar uma direção no Displacement, por exemplo, porque isso seria impossível com os recursos padrões do Max, ou então se fosse usar um Heigh Map em vez de uma imagem em tons de cinza comum, já que no Max também não seria possível.
Os Shaders do Mental Ray têm muitos macetes, precisa montar o material corretamente se for usar eles, e para evitar confusão precisa ter certeza que conhece bem o Mental Ray, para ter certeza que o problema é com o ajuste do Shader e não com os recursos básicos do Render, caso contrário, ficará muito mais difícil.
O principal problema que você relata não tem nada haver com o Shader e aconteceria o mesmo usado o Displacement padrão do Max, já que na verdade não é o recurso padrão do Max que está sendo usado, o Mental Ray nem entende os recursos padrões do Max, tudo é traduzido para os devidos Shaders do Mental Ray na hora do render.
O problema de ficar ruim com a distância é falta de Antialiasing e aconteceria até mesmo com uma textura de ladrilho nessa posição, sem Bump e sem Displacement, isso acontece até no render padrão do Max e em qualquer outro.
Aumentando os Samples de Antialiasing no Mental Ray, este problema não aparecerá e os ladrilhos distantes ficarão muito mais nítidos, sem criar esse embaralhado.
O granulado no reflexo da parede está acontecendo pelo mesmo motivo e ajuda no problema dos ladrilhos, precisa de mais Antialiasing na imagem.
Abraços