Douglas, tudo bem?
Alpha é o quarto canal da imagem, a imagem normal é RGB, tem 3 canais de cores, que formam todas as cores da imagem.
Uma imagem RGBA tem um quarto canal, com o Alpha, que é apenas uma imagem em tons de cinza, onde é branco, fica totalmente opaco, onde é preto, fica totalmente transparente.
Os 254 tons de cinza intermediários, definem os graus de transparência intermediários.
Você pode ter o ALpha na mesma imagem, ai precisa ser uma imagem de 32 bits, para guardar todas as cores e mais 256 tons de transparência, como TGA e TIF por exemplo.
Ou pode ter o Alpha separado em outra imagem.
No Max normalmente usa o Alpha separado em outra imagem, e aplica ela no canal Opacity, assim vai fazer o "recorte" de acordo com os tons de cinza.
Se estiver na mesma imagem, deve marcar as opções de Alpha dentro do Mapa Bitmap, onde coloca a sua imagem.
Assim ele vai usar apenas o canal alpha dela em vez dos canais RGB.
Abraços