Não tem como renderizar deste tamanho com 1 GB de RAM, com 2 GB já seria difícil.
Porque com 1 GB de RAM sobra um pouco mais de 500 MB para o render, se contar o carregamento do max, do windows, da cena.
Para renderizar imagem grande precisa de equipamento.
Se estiver usando o Vista é pior ainda, não sobra nem 500 MB para o render.
O mínimo recomendával para usar render com GI é 1 GB, então, é pra estudar e pra brincar, não dá para fazer trabalho profissional pesado e muito menos renderizar com 8000 pixels, porque se vc tivesse a melhor máquina disponível no mercado ia dar problema para renderizar com 8000 pixels.
Isso é trabalho pra renderfarm como o Mucio disse.
Não adianta colocar 10 GB de memória virtual, render 3D precisa de memória de verdade, qualquer render, até o Scanline, porque tem que guardar na RAM para calcular os efeitos.
Tenta renderizar pelo Region, seleciona uma parte pequena da imagem e manda renderizar, se for e não der erro, vc pode renderizar assim, de parte em parte e depois montar no PhotoShop.
Se vc tiver o CD do Mental Ray aqui do site o André explica como renderizar pelo Render Passes que é mais prático.
Mesmo assim vai ser muito penoso numa máquina com 1 GB de RAM.