Oi Graphis, tudo bem?
Sem a menor sombra de dúvida, com mais processadores envolvidos no render e mais memória, isso não aconteceria. Isso se o computador estiver em ordem, porque se tiver com algum problema, ai são outros quinhentos.
Render com efeitos modernos de iluminação exigem muito do PC, o Max foi feito para vídeo, que tem resolução de 720x480, no máximo para cinema, e não para impressão em grande formato, que tem resoluções absurdas.
Para render uma cena realista em grande formato, precisa de muito mais RAM e mais processador. 768 MB é muito pouco, tem que ter no mínimo 1 GB.
Isso supondo-se que você conhece muito bem o Mental Ray e sabe configurar tanto o render como os materiais da melhor forma possível.
Porque dependendo da configuração que fizer, o render demora muito mais para obter o mesmo resultado, ou fica tão exagerado que dá pau, isso é comum em todos os renderizadores profissionais, normalmente leva um ano para a pessoa ter prática o suficiente para conseguir o mesmo resultado com menos da metade do tempo de render.
No começo é difícil mesmo otimizar a cena para o render, depende puramente de prática com o renderizador.
Pode ser que daqui um ano você consiga render essa mesma cena nessa mesma máquina sem dar o problema, por causa da prática que terá adquirido.
Mas tela azul é demais, tela azul não é para dar nunca!!!! Ai eu já acho que é problema do computador, do windows ou de alguma outra coisa, não do Mental Ray.
Abraços