Ou fiote!
Num sei muito sobre este erro aí não, mas tenho um vídeo tutorial mostrando como configurar os photons do GI adequadamente em uma cena interna. o link é este:
http://www.tresd1.com.br/tutoriais/tutoriais-3dsmax/tutoriais-dos-usuarios/configuracao-dos-photons-sem-exposure-control
Olhando para estas configurações que vc postou,
\"Maximun Num. Photons per Sample: 500
Maximun Sampling. Radius: 4 cm
Average GI Photons Per Ligth 400000\"
Não há necessidade de deixar o parâmetro Photons per sample com 500, pode deixar com 100, pois este parâmetro serve mais para quando vc usa os photons do Gi sem o FG, porque seria com ele, e não com o FG, que suavizaria o mapa de photons.
O raio com 4cm é um ótimo valor, pois quanto menor for o raio melhor será a qualidade do Gi na cena, mas veja que quanto menor for o raio maior deverá ser a quantidade de photons na cena (o mapa de photons deve cobrir toda a cena). Se for necessário, pode aumentar um pouco (de 4cm para até 6 ou 7cm).
O valor 400.000 quer dizer que será a quantidade de photons que será emitidos por cada luz da cena (exceto mr sky do daylight ou skylight). Se ao todo tiver 5 luzes, então a quantidade total de photons na cena será 5 x 400.000 = 2.000.000,
Espero ter ajudado.