Oi leroz, tudo bem?
Sinceramente, se eu tivesse duas máquinas dessas aqui em casa, e tempo, faria Star Wars.
Acho que o problema não é máquina, se fosse falta de máquina daria a mensagem de falta de RAM ou de Generate Bitmap Error.
Se a cena for pesada mas não der essas mesagens vai renderizar, pode levar tempo pacas mas vai renderizar
Já levei uma semana renderizando uma imagem pesada a 300 DPI, mas renderizou. Já levei meses renderizando animação, mas renderizou.
Fizeram "The Day After Tomorrow" no Max, fizeram aquela geleira num modelo super detalhado da cidade de New York, então uma ceninha dessa de arquitetura o Max faz com os pés nas costas.
Agora como sempre falo aqui, para trabalhar profissionalmente, por melhor que seja a máquina, é pouco, é bom ter uma máquina poderosa como essa para criar a cena, e diversas máquinas mais simples, com processadores velozes e muita RAM ligados em rede para o render, o que chamam de RenderFarm, no filme usaram milhares de computadores para renderizar, milhares.
Acho que pode ser falta de conhecimento dos recursos do programa para fazer a cena o mais detalhada possível com o menor peso possível, tem diversas ferramentas para isso, como o MultiRes por exemplo, que ajusta a resolução dos Meshes próximos e distantes para otmizar a cena, Generate GI apenas nos objetos principais da cena, Exclude de reflexos Ray Traced em objetos distantes, resolução de Bitmaps distantes, configurações de GI, DOF e sombras, entre muitas outras questões.
Mas me passou uma coisa pela cabeça agora que pode ser o motivo do problema, se está querendo renderizar uma imagem num tamanho absurdo com 300 DPI para impressão, pode esquecer, o Max não foi feito para isso, o Max é um programa para criar animações para cinema e TV, foi feito para renderizar com tamanho de tela de TV, de cinema, que não passa de 5000 pixeis, não foi feito para fazer outdoors, mesmo assim ele ainda aceita renderizar até com 32 mil x 32 mil pixeis.
Abraços