Oi Art, tudo bem?
Não tem problema de ativar o Radius como pixels, contanto que configure corretamente os seus valores.
Se ficar muito alto, vai acontecer isso, se ficar muito baixo, vai criar granulado.
Mas normalmente usamos o Radius em unidades da cena mesmo, porque fica mais fácil, é só medir um objeto importante na cena e usar este valor como Radius nos Photons e 10 % disso no Final Gather.
Usado em Pixels é mais difícil de ter uma noção de tamanho correta.
Se está no Max 9, se acostume a configurar o Final Gather pelo Radius e não pelo Interpolate novo que vem com 27 no valor, é uma porcaria.
Pegando as manhas do Radius você consegue o melhor resultado no menor tempo de render possível. O Interpolate novo desperdiça muito tempo para ficar bom.
Abraços