Bigorna,
Na sessão onde vc baixou o shader explica onde copiar esses arquivos para o Max disponibilizar o shader para uso:
"Como usar Shaders:
Os Shaders são compostos por dois arquivos, uma DLL e um MI, este último descreve a interface no programa. O arquivo DLL deve ser copiado para a pasta Mentalray > Shaders_autoload > Shaders, que fica dentro da pasta onde instalou o 3ds max. O arquivo MI deve ser copiado para a pasta Mentalray > Shaders_autoload > Include, que também está dentro da pasta onde instalou o 3ds max."
Se vc está tendo o primeiro contato com o Mental Ray, sugiro, antes de usar shaders de terceiros, estudar as configurações e shaders básicos, primeiro.
Abraço,