Oi Fabiano, tudo bem?
Para usar Shaders de terceiros é muito importante já ter uma boa experiência com o Mental Ray.
Porque cada Shader foi feito por uma pessoa diferente, a lógica para usar cada um é diferente, depende de como a pessoa fez.
O Shader aparecer no programa é fácil, é como o Feitosa disse, basta copiar o MI para a pasta Include e o DLL para a pasta Shaders dentro da pasta Autoload do Mental Ray.
Mas para usar, depende muito de cada Shader, muitos dependem de composição com outros Shaders, o Mental Ray aceita que você coloque o Shader onde quiser quando for um Shader de terceiro, porque não tem a definição de categoria que o Max oferece.
Então, se colocar o Shader num canal errado, que não poderia ser usado, vai travar o Max na sua cara e fechar o programa.
Por isso que é importante conhecer como compor com Shaders, oque pode ser usado e o que não pode, onde pode ser usado e onde não pode.
Precisa conhecer a categoria do Shader para saber onde ele pode ser aplicado.
A melhor forma de aprender isso é estudando composição de Shaders com os Shaders que já vem com o 3ds max, pois todos tem a categoria já definida, não vão aparecer onde não pode.
Se aprender a montar materiais só usando os Shaders que já vem com o Max, vai ficar muito mais fácil montar materiais com Shaders de terceiros.
O ideal é começar a estudar a composição com Shaders do Max depois que já sabe configurar perfeitamente o Render.
Depois que conhecer todos os recursos e parâmetros das fichas do Mental Ray na janela Render Scene, é a hora ideal para estudar composição de Shaders.
Porque quando der um problema, quando aparecer um defeito, você terá certeza que não é erro de configuração do Render, é algum erro na montagem do Shader.
Entende a complicação?
Se a pessoa não domina bem o uso do Mental Ray, vai aparecer muitos problemas que ela não vai saber se é do Shader ou da configuração do Render.
Mas eu não vou deixar você sem uma resposta para o GeoLight.
É um Shader simples.
Você precisa colocar o Plugin mrGeomShaderObject.dlo na pasta Plugins do seu 3ds max.
Ele vem junto com o Shader Is MI Object.
Assim o Max vai entender Shaders de Geometry do Mental Ray, que é o caso do GeoLight.
Depois, entra no menu Creat e acessa a última opção da lista, que oferece o Geometry Shader do Mental Ray.
Cria o cage na cena, será apenas um Box de arame.
Com ele selecionado você vai no Modify e clica no único botão do plug-in.
Aparece o Material/Map Browser, escolha o Geolight.
Arraste uma cópia dele para o Material Editor e adicione o objeto no primeiro quadro do Shader, o quadro Instance.
Depois, crie uma luz MR Area Omni na cena e adicione-a no segundo quadro do Shader, o quadro Light.
Habilite as opções lightdefaultoverwrite, lightvisible e objpreset.
Inicie os testes com 4 no Lightsamples U e V, 3 no lightsamplelevel e 2 nos parâmetros Lightsampleulow e lightsamplevlow.
Renderize com Final Gather e Bounce 2, depois, teste com GI para ver a emissão de Photons.
Abraços