Oi Cesar, tudo bem?
Realmente o estouro da luz não fica bom não, fica feio, parece que a pessoa não soube configurar corretamente a iluminação.
O que acontece na realidade e fica bonito em 3D, é o halo criado ao redor de uma área muito brilhante, seja por emitir luz ou por refletir luz.
Nestas áreas a luz cria um "defeito" no filme, quando é capturada pela câmera devido a lente, e aparece este "efeito" que torna a cena mais real, já que acontece na realidade.
Este efeito é criado com o Shader Glare do Mental Ray, é bem simples, basta colocar no Slot Output da ficha Renderer na janela Render Scene, se tudo estiver configurado certo na cena, o efeito será gerado sem ter que configurar nada no Shader, mas mesmo assim, depois pode fazer ajustes para melhorar a qualidade e controlar o tamanho.
Só que eu não usei este recurso na imagem de exemplo do vídeo curso de Mental Ray, pois aquela imagem é desenvolvida no último vídeo do curso e eu não apliquei este Shader, tudo foi feito com Photons do GI e Final Gather normalmente.
Pode ser que a posição da luz deu essa impressão, mas é só GI mesmo.
Abraços