Oi Criacaoi7, tudo bem?
Normalmente os sistemas de simulação dinâmica exigem objetos com baixa resolução, depois pode trocar por objetos com mais resolução ou aumentar a resolução dos objetos usados na simulação.
Faça a bandeira bom poucos vértices mesmo, depois de simulado, você aplica o Turbo Smooth para aumentar a resolução.
Quanto ao movimento, aumente o valor do vento para as bandeiras se moverem mais.
Sobre o Reator Rope, ele é muito parecido com o Reactor Cloth, lendo o tutorial do Cloth você também pode usar o Rope, mas ainda tem o tutorial que o Feitosa te indicou, que mostra como usar o Rope com Bones, oferecendo ainda mais controle.
Abraços