O problema não necessariamente é seu PC, e sim o seu sistema operacional. Vou dar um exemplo que acontecia comigo, antes de mudar para o Vista 64, eu usava o XP 32 bits, o Maximo de tamanho de um arquivo que eu conseguia render sem dar pau, era 70 megas aproximadamente, sei que isso é muito relativo, pois depende muito das configurações da cena, mas digamos que minhas configurações eram sempre parecidas de cena pra cena. Uma vez fiz um arquivo que ficou com 100 megas, e quase não consegui renderizar, tive que fazer por partes. Detalhe importante, a maquina tinha uma configuração muito boa. Foi ai, que de tanto sofrer com isso, resolvi instalar o Vista 64, minha vida mudou...rs. Posso fazer o que for, e não da pau, pode sim demorar muito para renderizar, afinal a cena esta muito grande, mas não da pau, pra você ter uma idéia meu ultimo arquivo ficou com 350 megas, nunca imaginei conseguir renderizar um arquivo desse tamanho, mas agora é moleza.
Boa sorte.
3dsMax 2017 / VRay / Corel