Na verdade a melhor opção para se trabalhar em pós, ou mesmo edição, é fazer o render do 3D rm sequências de imagem.
Hoje em dia o .OpenEXR é o formato mais utilizado por grandes produtoras, têm vários tipos de compactação e já aceita os canais de elements em um footage único.
Mas você pode renderizar em .TGA, é mais antigo, bem básico, mas te dá a opção de 8, 16 e 32 bits, ou seja, você não perde qualidade e fica mais fácil para trabalhar na pós.
Provavelmente acabam seus problemas de codecs. Na produtora onde trabalho uso o AE 5.5, mas tem um animador com o CS3 e ainda usamos Nuke, sempre abrimos as mesmas sequências e sem dar erros desse tipo.