CarloZ!, como os amigos Eddy e new ja citaram muito bem, memória irá ajudar bastante. Fará com que cenas que não renderizariam antes, renderizassem sem problemas. O tempo de render, porém, não mudaria tanto. Entrarei neste mérito mais a frente.
Seu processador suporta até 16GB de memória, ja sua placa mãe (de procedencia dell) não sei ao certo. Mas acredito que também suporte os 16. Vendo sua configuração com 2x2GB, recomendo que pegue mais 2x4GB para completar os 04 sockets e fechar 12GB no total. As travas pretas e brancas nos sockets de memória servem para indicar qual posição correta de ligar o dual channel. No caso, tendo memórias com densidades diferentes (2x2GB + 2x4GB, por exemplo) vc ligará os pares nas mesmas cores dos sockets. Exemplo, as duas de 2GBs nos brancos e as duas de 4GBs nos pretos.
O que vai te ajudar muito na modelagem e visualização da viewport é a placa de vídeo. A sua é um modelo de entrada, bem simples. Uma GTX 660 (a 560 também, porém é mais antiga) faria sua viewport brilhar. Se vc optar pela versão de 3GB (2GB para a 560), ainda poderá desfrutar da força dela em renders simples (que caibam nos 3GB ou 2GB no caso da 560) usando vray RT ou Iray. Muito provavelmente será mais rapido que seu processador atual.
O processador que é um caso sério. Não que o seu seja ruim, ele é intermediário, mas seu socket ja foi extinto das linhas de produção. Poderia recomendar o i7 870 para substitui-lo nesta mesma placa mãe. Vc ganharia um pouco de performande de render, mas não valeria o invetimento (a não ser que vc compre usado e bem barato. É uma saída tbm).
Se o orçamento permitir, o que realmente seria uma boa idéia, seria trocar todo o equipamento. Hj em dia, o i7 3770 é \"o que há\" de custo/performance/beneficio na área de workstation para 3D. Alguns amigos poderão citar o AMD FX 8350, que também é um put@ processador (apenas fuja do FX 8150) ai vai da sua preferencia, AMD ou intel.