Oi Liezão, tudo bem?
Para usar o Irradiance Mat tem que conhecer bem de composição de Shaders no Mental Ray como o Múcio disse, porque essa é a parte mais complexa do render e tem muitas coisas envolvidas.
Mas não precisa disso para criar um Layer só com o GI e levar para composição em qualquer soft, o Mental Ray é compatível com todos os recursos do Max, então, é só renderizar o Element Light e habilitar a opção de GI, assim, será criada uma imagem apenas com o GI da cena, justamente da forma que é usada em composição.
Com o Element Light você pode levar junto a sombra e o GI.
Dá uma olhada neste tutorial que eu explico como fazer: http://www.tresd1.com.br/conteudotutoriais.php?t=27912
Abraços