Oi Kill3r, tudo bem?
Realmente a quantidade de polígonos nos objetos é muito importante, o Reactor foi feito para lowpoly, ele vai ficar super lento com modelos em alta resolução e pode até não fazer a simualação.
Em qualquer tipo de simulação 3D é assim, se trabalha em Low Poly e aumenta a resolução depois que estiver simulado.
Mas se é uma cena complexa e os objetos já estão em Low Poly, você pode criar grupos de colisão no menu Collisions.
E no caso de ser apenas Rigid Body, é melhor mesmo usar o Reactor 3, que já vem com o Max, é só o Solver que é diferente, você escolhe esta opção na lista que tem logo no início do painel do Reactor.
Abraços