Oi Cenora, tudo bem?
Seja bem vindo ao nosso site, espero que participe bastante aqui com a gente.
Sobre o plug-in, veja se você baixou a versão correta para o seu Max, o plug-in só funciona na versão certa.
Este plug-in também precisa do BlurLib que está junto no Zip, os dois arquivos devem ser copiados para a pasta plug-ins.
Agora, se você usa o Mental Ray não vai funcionar, porque o Mental Ray não aceita nada que interfira no render sem ter um Shader para falar como ele deve renderizar.
Se for isso, teste no Scanline que vai renderizar normalmente.
Depois você pode compor no PhotoShop para fazer o efeito de transição que deseja.
Mas no Mental Ray tem Shaders para renderizar em Wire que faz o mesmo trabalho deste plug-in, você encontra na seção de Shaders do Mental Ray dentro da seção Texturas aqui na 3D1, o link direto é este: http://www.tresd1.com.br/texturas.php?t=13941
Abraços