alinit, essa mensagem tá falando que ou não tem memória para fazer a imagem porque tá muito pesada ou vc tá pedindo pro max fazer uma imagem muito grande....
Pra fazer imagem grande precisa de computador muito potente...
Quando ele fala que não consegue alocar o bitmap quer dizer que a imagem é muito grande, com quantos pixels vc tá mandando renderizar?
Até uns 4000 x 4000 dá pra ir, mais do que isso é complicado, precisa dividir a imagem, usar scripts como o bigrender, estas coisas...
Tenta mudar a memória virtual do windows, coloca o mínimo e o máximo com o mesmo valor, em 32 bits o máximo é 4096....
Também precisa de espaço no C pro max renderizar direito....