Loj,
Você manteve o Pentium D?? Ele é 32Bits, não?? Se você o manteve, só jogou dinheiro fora comprando 8GB, pois o teu PC nunca irá reconhecer mais que 3,5GB. Se eu fosse você aproveitava e comprava pelo menos um C2D E6850 ou já um Q6600.
O Win Server só irá dar a mesma velocidade se ele for 64Bits e o Max também. As plataformas x64 aceitam até 128GB RAM (conte aqui também outros tipos de memórias como da VGA, Cache de processador, etc...), mas isso depende de dois fatores, a placa-mãe e o sistema operacional. Por exemplo, no meu caso, o Vista Home Premium 64 aceita até 16GB e minha placa-mãe também. Eu poderia ter um Vista Business ou um Ultimate 64Bits que aceitam até 128GB, porém minha placa-mãe limitaria isso. Outra, espero que você tenha comprado os quatro pentes iguais para acionar o Dual-Channel das memórias, senão provavelmente teu PC irá ter problemas de travamento.
O Vista provavelmente irá, a partir do SP1 dele, melhorar consideravelmente a estabilidade e a velocidade. Ele nasceu para ser como padrão um 64Bits, diferente do XP/Server que nasceu 32Bits e depois passou a ser um 64. Portanto sim, o Vista provavelmente aumentará a velocidade de render. E as memórias aceleram um pouco o render sim, ainda mais agora com os Win x64, porque eles gerenciam mais memória. Então no seu caso com 8GB, provavelmente o Max64 só utilizará a memória RAM, não usará a memória virtual (arquivo criado no HD para simular a memória RAM, só que muito mais lenta). O ideal para sistemas 64 Bits que serão usados para CG é ter no mínimo 8GB, ainda mais que o Vista é guloso com memória RAM.
Abraço