Oi Juliano, tudo bem?
Que isso cara, não está abusando em nada.
É normal as coisas no Mental Ray serem um pouco mais difíceis do que no V-Ray, o Mental Ray é um render mais profissional que oferece muito mais recursos e as coisas não vêm mastigadas nele como vêm no V-Ray.
Justamente por ser mais profissional e mais usado fazer a composição com os elementos separados, que os recursos dele facilitam neste sentido.
Se a pessoa vai compor a imagem depois, em vez de tirar o render completo no Max, o normal é que tenha um mapa só da sombra e um só do GI, ter os dois juntos não adianta nada, daria na mesma renderizar a imagem completa no Max então, porque se não tem como separar o GI da sombra, não tem controle sobre eles, se mudar um deles, o outro mudará também.
Em todos estes métodos que mencionei você terá GI, Alpha e sombras, mas não tudo numa imagem só, porque assim não serve para composição, vai ter cada parte dessa num mapa separado e pode montar a imagem completa rapidamente em qualquer programa de edição, como o PhotoShop, por exemplo, depois disso, poderá tratar a sombra e o GI de forma independente, como é comum e requisitado na composição.
Eu acho que para o que você precisa, você pode fazer um render com o piso normal abaixo da caixa, mas desabilitando a opção "Visible to Camera", assim, terá o mesmo GI da cena com fundo alpha.
Ai falta a sombra, então, basta habilitar o elemento Shadow na ficha Render Elements, assim, logo que terminar o render, será exibido a imagem só com a sombra, então, com um único render você terá todos os elementos que precisa.
No PhotoShop, é só colocar a imagem da sombra sobre a imagem normal e passar para o modo de Layer Multiply, pronto, a sombra aparecerá na imagem perfeitamente.
Sobre o Shader Irradiance Matte, putz cara, desculpe te fazer perder tempo procurando, depois que vi sua mensagem, fui lá procurar também e não tem, eu esqueci de colocar este Shader para download, vou colocar essa semana mesmo, mas hoje mesmo vou enviar o Shader no seu email, desculpe novamente.
Este shader vai deixar você guardar o GI separado numa imagem com Alpha como o Matte/Shadow, mas como disse, não há necessidade, porque com o Render Elements faria quase a mesma coisa e na composição daria na mesma.
Abraços