Oi Anderson, tudo bem?
Não se desespere, tem jeito para tudo, até para morte, é só clonar :) :)
Então, o problema é falta de RAM mesmo, porque 1.5 milhão de faces 3D, com GI em tudo, puta vida, precisa de memória pacas, pode ter 1 TB de memória virtual que não vai adiantar nada, tem coisas que é só na RAM mesmo, tem coisas que se faltar RAM ele ainda simula na HD, e tem coisas que é só na HD, então precisa de um equilíbrio entre tudo para poder ir bem, o limite realmente é a máquina, pra valer normalmente usam diversos computadores em rede no render.
Mas tem coisas que pode tentar antes de começar tirar objetos e efeitos da cena.
A primeira coisa é só habilitar GI para o que realmente interessa, dá uma lida no tutorial de Mental Ray que tem na seção Tutoriais de Plugins do 3DS Max na Três D1, não é tudo que precisa gerar GI, apenas os objetos principais, o que é pequeno e não aparece muito não precisa, os objetos de detalhes não precisam gerar GI, apenas receber, você habilita isso clicando com o botão direito sobre o objeto, escolhendo Properties e acessando a ficha Mental Ray.
A outra coisa é diminuir as faces dos objetos distantes, pequenos e que aparecem pouco, pode usar o MultiRes que é muito bom, pode deixar o objeto bem simples porque se é pequeno e não aparece muito não muda praticamente nada na cena.
Agora o mais importante é conhecer bem o Mental Ray, para poder chegar numa boa configuração que permita um bom desempenho com boa qualidade de imagem, verificar com cuidado o tratamento de Photons e Surfaces dos materiais, as configurações de Reflection, Refraction e Sun, os Samples de GI e FG, os Samples de imagem, o tipo de sombra, os Radius, ajustando essas coisas pode conseguir usar menor memória e renderizar a cena nessa máquina mesmo.
Tenta primeiro desabilitar os GI de tudo que não precisa, e usar o MultRes no que tiver distante e pequeno, depois posta se ainda deu o pau.
Abraços