Oi José, tudo bem?
Sempre renderize em sequência de imagens como os amigos falaram, porque vai evitar muitos problemas de renderizar 3D direto para um arquivo de vídeo como AVI ou MOV.
Diversos formatos de imagem aceitam o canal alpha, entre eles tem o PNG, o TGA, o TIF.
Mas apesar do PNG aceitar Alpha, é o pior formato para usar este recurso, porque o Alpha do PNG é comprimido e tem menor qualidade.
Profissionalmente em vídeo só se usa um formato, que é TGA, então, sempre salve em TGA, seja com alpha ou sem e se acostume a fazer tudo neste formato se trabalha com vídeo.
Dentro de uma emissora de TV nunca vai usar outro formato, apenas TGA.
Abraços