Jessyca
Realmente é estranho estar dando este problema no seu Max.
Pela conf. da sua CPU, era pra render sem problemas nessa resolução...
Eu tentaria primeiramente dar um Repair no Max.
Va no CD de instalação do Max, e execute o arquivo "3dsMax8.msi" que está no CD. Então escolha a opção Repair.
Depois reinstale o VRay.
Caso isto não resolva seu problema, tente liberar mais memória para rodar o Max, através do Boot.ini
Siga os seguintes passos:
Para visualizar e editar esse arquivo, deve-se fazer as configurações abaixo:
Abrir o Windows Explorer.
No menu Ferramentas, clicar em Opções de pasta, e em Modo de Exibição.
Marcar a caixa de seleção Show hidden files and folders (Mostrar pastas e arquivos ocultos), desmarcar a caixa Ocultar arquivos protegidos do sistema operacional (recomendado) e clicar em OK 2 vezes.
No painel à esquerda do Windows Explorer, selecionar %systemroot%, clicar com o botão direito do mouse em Boot.ini no painel de exibição, e clicar em Propriedades.
Desmarcar a caixa de seleção de atributo Somente leitura, e clicar em OK.
Abra então o arquivo Boot.ini e deixe ele da seguinte forma (provavelmente vc só precisará adicionar a ultima linha)...
[boot loader]
timeout=30
default=multi(0)disk(0)rdisk(0)partition(1)\WINDOWS
[operating systems]
multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect
multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Pro with /3GB" /fastdetect /3GB
PS: Crie um backup do arquivo Boot.ini antes de fazer estas alterações, só para garantir.
Espero que resolva o seu problema.
Abraços
Arquiteto Juliano Azeredo
www.photobucket.com/albums/q193/julianoazeredo