Coruja,
Quer uma dica? Pega a Quadro 4000 ela é uma Fermmi e portanto mais nova.
Mas em relação a diferença das duas é simples, a GeForce é uma placa projetada para jogos e entretenimento, na realidade ela é chamada de aceleradora porque faz aceleração dos jogos para maior qualidade de imagem e melhor jogabilidade. Já a Quadro é uma placa profissional, no qual o driver é muito otimizado para acelerar a viewport de softwares 3D como o Max, CAD, Maya, XSI, etc... os dois primeiros tem até um driver específico além do driver padrão das Quadro chamado Performance Driver. Resumindo a Quadro é feita para esse tipo de software profissional.
Porém a vantagem da GTX580 é em relação ao Iray, Vray-RT GPU, etc, por ter mais cores CUDA e mais memória em relação a esta QuadroFX 3700 e 3800, já em relação a 4000 ela só tem menos cores CUDA, porém tem mais memória e hoje em dia isto é até mais importante do que a quantidade de cores porque a cena é carregada na memória da placa e depois renderizada.