Oi Rafael, tudo bem?
De acordo com a imagem que mostrou, você pode aumentar a memória virtual para 30 GB ou mais no Driver C.
Você está fazendo certo de colocar os valores mínimo e máximo iguais, mas pode ser apenas no C, não precisa criar no D também porque vai gastar um espaço desnecessário.
Em qual momento o Render fecha o Max, no final da renderização quando vai criar os Render Elements, logo que inicia ou enquanto está fazendo os cálculos do GI?
Eu não tenho experiência no Corona para dizer se ele possui algum recurso para liberar mais memória para imagens grandes, precisa dar uma olhada nas configurações dele.
Uma opção para resolver na marra seria renderizar um pouco menor e ampliar para o tamanho que deseja usando algum destes programas ou serviços de ampliação sem perder detalhes como o Let's Enhance ou o AI GigaPixel, inclusive, agiliza bem para quem precisa fazer imagens grandes.
O Let's Enhance fica neste link:
https://letsenhance.io/Nesta página terá mais informações sobre o AI GigaPixel:
https://3d1.com.br/noticia/67700Abração e tudo de bom.
André Vieira