Oi Thiago, tudo bem?
Eu estou vendo vários problemas ai.
O primeiro é que o Mental Ray é um render fisicamente correto, ele possui Shaders para criar efeitos de Glow de verdade em 3D, não em pós produção como no Vídeo Post, que normalmente não atende as espectativas, principalmente em animação.
O Mental Ray não aceita a transparência do G-Buffer usado no Vídeo Post, mas mesmo com a mensagem, você pode renderizar que vai sair correto, em algumas situações vai aparecer um leve contorno branco ao redor do efeito.
Porque o certo é renderizar o efeito separado e compor depois no PhotoShop ou em qualquer soft de composição, mesmo quando estiver usando o render padrão.
No Mental Ray, o melhor é usar os recursos dele, como o Shader Beam, o Shader Glare, o Shader Parti Volume, entre outros.
Agora, o maior problema é estar o Geolight aplicado na cena sem as configurações adequadas, tanto que ele aparece em primeiro lugar na mensagem de erro.
O Geolight é um dos Shaders mais chatos de configurar, precisa ter uma boa base já no Mental Ray para usar.
Se está começando, é melhor estudar os recursos das janelas de render do Mental Ray, depois os Shaders que acompanham o 3ds max e só depois os Shaders de terceiros, porque muitos deles dependem de configurações especiais.
Abraços