Oi Bisewski, tudo bem?
Se fosse tão simples como no Scanline, daria para te explicar aqui numa mensagem de fórum e todo mundo já estaria fazendo iluminação sem problemas com ele e com outros renderizadores profissionais.
Mas não é simples assim, no render padrão basta ajustar materiais e luzes, clicar em render e está tudo pronto.
Nos renderizadores profissionais, que trabalham com GI, depende de muitas configurações no próprio render para ajustar o efeito de GI.
Eu gastei mais de 8 páginas em duas edições da Digital Designer para explicar isso, a melhor forma que tem para aprender a fazer isso é lendo essas duas edições da revista, são as edições 68 e 69, seria bom ler a edição 70 também, nela eu mostro as diferenças para o Max 7 e 8, pois os dois primeiros artigos foram feitos no Max 6.
Para ajustar a iluminação dequalquer coisa no Mental Ray depende de configurar os Photons e o Final Gather, são estes dois recursos que explico nas edições que te indiquei, mas explico também Anti-Aliassing e Diagnostics, que são muito importantes no setup da cena, tenta conseguir essas edições que vão te explicar como fazer.
No tópico fixo sobre Mental Ray no topo da página do fórum tem bastante informação sobre isso e até umas cenas para baixar e ver como foi feito.
Abraços