Comigo acontece esse erro quando exagero no bump de algum material ou normal map.
Olha se os valores que está usando no bump dos materiais não está muito alto.
E suas configurações não estão legais, não ligou o radius dos photons e está usando só 20 mil.
Tb não está certo usar 1 e 1 no min e max do sampling quality, sample fixo sempre é pior e tão baixo assim não dá.
Usa o preset em baixo do frame buffer que está lá para ajudar quem não sabe configurar manualmente.
O multipler das luzes tb está errado, sempre tem que ser 1, que é o valor real.
Pode ser isso que está dando a mensagem de erro.
Coloca 1 no mr sun e no mr sky e controla a claridade pelo exposure control.
Tb tira o haze, deixa com zero para não mudar as cores da imagem.