Oi Dan, tudo bem?
Realmente a mensagem é de falta de memória para o Render.
Os computadores são muito fracos para 3D ainda, mesmo que tenha uma máquina boa e moderna, se não otimizar tudo ao máximo, exagerar nas configurações de materiais e de render, vai dar pau de memória na hora de renderizar.
A melhor forma de resolver é otimizar tudo na cena para a máquina poder renderizar sem problema.
Dependendo o render que estiver usando, existem opções para otimizar a renderização, como as que existem na ficha Processing do Mental Ray.
A última opção é renderizar a imagem por partes, assim, evita de dar o problema de memória, já que a imagem será menor.
Abraços