Veja abaixo o vídeo tutorial explicando como simular uma folha de papel quaimando aos poucos com o 3ds max, FumeFX e After Effects.

O autor ensina a técnica convencional detalhadamente, que consiste em criar os mapas animados no After Effects e aplicar no 3ds max para controlar a transição das texturas do papel e do carvão, a deformação com o Volume Select e o efeito de fogo e fumaça com o FumeFX, pois todos são baseados na máscara animada no After.

Entretanto, hoje em dia é possível fazer de uma forma mais fácil, mais prática e que oferece um controle muito maior da máscara diretamente no 3ds max, basta criar um mapa procedural no Substance Designer com o mesmo aspecto da máscara feita no After e abrir no Max, assim, poderá animar a máscara no próprio 3ds max vendo o resultado na Viewport sem precisar ficar alternando entre dois programas.
Neste caso o After Effects seria utilizado apenas no final para a composição da animação e não para criar a máscara inicial.