Não vai adiantar cara, é muita geometria e não muda se atachar.
Tem que renderizar em layers e compor depois, tipo renderiza as árvores separado.
Ou renderizar pelo render passes se vc usa o mental ray, ai ele renderiza em partes e monta a imagem sem ter que ir juntar no photoshop.
No CD do mental ray da 3d1 explica essas coisas.
As opções de memória ficam na aba processing e na aba renderer.
Liga o use placeholder objects, o use mental ray map manager, o memory limit.
Ai na renderer vc muda pra large bsp, coloca 24 no tamanho do bucket e tenta renderizar.
Em cenas pesadas tem que configurar bem os baratos no raytrace acceleration usando o Diagnostic, mas ai é complicado pra explicar