Oi Aquiles, tudo bem?
Bug no Mental Ray não é com certeza absoluta, porque só existem 3 bugs conhecidos no Mental Ray e são tão específicos que você não percebe nem em cinema.
Pode ser Bug do Max 9, que é um Bug ambulante, mas não do Mental Ray.
As unidades da cena podem influenciar muito no resultado das configurações, dependendo a combinação de unidades que escolher no Display e no System Units, o Mental Ray vai parar de funcionar direito, nunca vai conseguir suavizar os Photons.
Por isso é muito arriscado trocar as unidades internas do Max (System), e é ignorância trocar apenas o Display, porque ai você está sendo enganado pelo programa e não está nem percebendo.
Porque se você muda para metros no Display, o Max continua tratanto cada unidade como uma polegada, então, a pessoa acha que está trabalhando em escala real usando metros, mas cada metro vai ter apenas 2.54 centímetros.
Essa questão de unidades é bravo, eu acho a coisa mais simples do mundo, porque está na cara, mas por incrível que pareça, raramente alguém percebe isso mesmo quando a gente fala e explica, parece até brincadeira, mas é sério.
Supondo-se que a sua cena está com uma combinação de unidades que não danifiquem o funcionamento do Mental Ray ou está com o sistema de unidades padrão, independente do tamanho dos objetos, estando em escala real ou não, você sempre vai conseguir solucionar a iluminação normalmente, o que muda são os valores usados, mas sempre de forma proporcional e não exageado com 200 no Energy, porque é um valor absurdo.
Se está usando o Shader Physical Light, então, é isso, use apenas as luzes normais até ter bastante prática com o Mental Ray, só depois deve se aventurar com Shaders, porque essa é a parte mais difícil, o importante é dominar bem os recursos de Photons e FG, para não ter estes problemas básicos de configuração, depois vai ficar fácil para testar o Physical Light.
Se não estiver usando o Physical Light, veja se está usando luzes Photometrics, neste caso precisa estar em escala real corretamente ou então modificar o Intensity da luz para se adequar a cena, pode ficar muito claro na Viewport e bem mais escuro no render, devido a diferença de escala, então aumente a intensidade e deixe estourar na Viewport, porque o que importa é o render, você pode teclar crtl+L para a viewport ficar com as luzes de serviço.
Sobre o Shader Physical Light, você pode usar ele perfeitamente com Final Gather apenas, com Photons apenas e com Photons e Final Gather, porque não muda nada, é apenas uma forma diferente de tratar a luz, mas continua sendo luz igual as outras.
A diferença está no Decay da luz, que é real e precisa estar em escala real ou modificar a intensidade da luz como acontece com as Photometrics.
Abraços