Pode ter as duas na mesma máquina, porém os requisitos de sistema mínimos, para tal serão altos, como um gabinete bem refrigerado, bastante fan e exaustores e o principal, uma fonte de de aproximadamente 1000W. E você com certeza perderá slots, porque as duas ocupam 2 slots cada. Porém hoje poucas coisas usam placas offboard. Antigamente precisava tudo separado, rede, modem, som, porta USB, hoje está tudo no painel traseiro da placa-mãe.
Quem controla qual placa entra ou sai do jogo é o centro de controle das placas Nvidia, lá você escolhe qual irá funcionar. Para tanto você deve só reiniciar o Max para que ele carregue a placa certa.
E se for uma placa com os chipsets Z68 ou Z77 e o VIRTU, ainda tem o controlador de video do processador, que com essa tecnologia ele escolhe o melhor para cada aplicativo. Se for coisas leves ele usa o processador, se for pesada vai para as GPUs.