Ai Saulo, o Max 9 não é compatível com o Vista, só o Max 2008 que é totalmente compatível.
Só que ai tem dois problemas, o pior windows até hoje para usar 3D é o Vista.
3D precisa de todos os recursos da máquina e ainda falta, então, usar um SO ruim como esse que come todos os recursos do sistema, não é boa idéia.
O Vista é tão ruim que fabricantes de computadores e laptops estão fazendo downgrade, vendendo máquinas com o XP instalado em vez do Vista.
Ele é tão ruim que pela primeira vez a Microsoft diminui o preço para ver se vende mais.
O outro problema é o Max 2008, que é muito ruim também, não tem service pack e não vai ter, vai ficar cheio de bugs e quem quiser melhorar vai ter que migrar para o 2009, que é o service pack do 2008.
Então imagine só usar o pior windows do mundo com a pior versão do max até hoje, a única que não terá service pack.
Você vai arrumar problema pra cabeça
Fica no XP com o Max 9 que é a melhor opção!!!
Se quiser um sistema operacional melhor e tiver grande experiência com Windows, então, use o Windows 2003 Server, mas tem que manjar de Windows para usar ele.