Oi Rafael, tudo bem?
Para isso você usa o material Matte/Shadow, é bem simples.
Quando você aplica este material num objeto, ele se torna Alpha.
No render ele não vai aparecer, apenas a sombra projetada sobre ele.
No lugar vai aparecer o fundo do Max, que é Alpha e será guardado na imagem TGA de 32 bits como transparente (Alpha).
No PhotoShop você vai ter o canal Alpha deste objeto para fazer selecões e tudo mais.
Mas eu ainda quero te dar outra dica, apesar de todo mundo usar o PhotoShop para edição de imagens, no Combustion você teria um poder absurdo nesta questão, coisas que o PhotoShop nem sonha.
Por exemplo, você poderia renderizar com textura de grama esse piso e depois poderia trocar a textura na imagem renderizada, mantendo o mapeamento.
Você poderia trocar o tecido de um sofá ou a cerâmica do piso, sem ter que renderizar de novo.
Abaços