Oi Neosmar, tudo bem?
O Mental Ray não aceita o Matte/Shadow nativo do 3ds max, precisa usar o Material MatteShadow/Reflection, como mostra a primeira imagem em anexo.
Dai é só aplicar este material no Plane e colocar a imagem de fundo no primeiro Slot dele, o Camera Mapped Background, como mostra a segunda imagem em anexo.
Porém, para ficar legal, a iluminação tem que ser pelo menos parecida com a iluminação da imagem de fundo e a melhor forma de fazer isso é usando uma imagem HDR.
Então, normalmente você vai aplicar uma imagem HDR na luz Standard Skylight ou na MR Sky para reproduzir a iluminação da imagem de fundo.
Aqui na 3D1 tem o download deste exemplo que usei agora para te mostrar o resultado e você poderá ver as configurações, fica neste link:
http://3d1.com.br/recursos/215/matteshadow-mental-rayQualquer dúvida sobre ele é só falar.
O MatteShadow/Reflection também aceita esconder objetos atrás de objetos da foto e refletir os objetos 3D nos objetos da foto, como mostra a terceira imagem em anexo.
Neste exemplo eu fiz a configuração completa, com iluminação HDR, Backplate do mesmo lugar e aplicação do MatteShadow/Reflection para projetar sombras, refletir e esconder objetos.
Você pode baixar este exemplo neste link:
http://3d1.com.br/recursos/215/3d-dentro-de-fotoQualquer dúvida sobre ele é só falar.
OBS: Nos dois exemplos, se você trocar a imagem HDR e a foto de fundo pelas que deseja usar, é provavel que funcione perfeitamente, dai só vai precisar refazer o Perspective Match para realinhar a câmera com a foto de fundo.
Abração e tudo de bom.
André Vieira