O v-ray tem muitos bugs, ai tem que ser especialista no v-ray para burlar os bugs, que mudam a cada versão, mas se não for um bug, pode ser erro na configuração, ter uma máquina boa com 3 GB de RAM não é muita coisa para 3D, se não otimizar a configuração de tudo e encher de móveis da evermotion, não configurar os materiais que vem com eles e são super pesados, não refinar a configuração do render para usar só o necessário, vai dar erro mesmo e isso vale para qualquer render.
Não adianta testar todas as configurações, porque depende da combinação delas, tem que saber para que serve cara recurso e configurar com o mínimo necessário, porque se exagerar em qualquer coisa, não renderiza.
Tudo tem que ser otimizado ao máximo para renderizar sem problemas.