Oi Jorge, pra dizer a verdade o que importa ao render são triângulos, mas ao baixo nível de programação do engine, o que ele lê são vértices, é meio complicado, mas dá pra entender.
Essa explicação é baseada na tecnologia T&L, o transform & lighting, que simplificando seria a transformação de coordenadas mais a ação da iluminação ambiente.
Quando o engine lê as superfícies, os elementos fundamentais são os vértices, que nada mais são que grupos de coordenadas x,y,z. Todos os vértices do modelo vão representar uma matriz de coordenadas espaciais que vão possibilitar o cálculo de cada superfície triangular formada por eles.
Triângulo é unidade fundamental pro render, porque é a superfície mais simples. Um vértice é um ponto no espaço, dois já limitam um segmento de reta, 3 geram a superfície mais elementar.
Então tá aí o triângulo que o engine calculou, e o que vamos ver vai ser o resultado da ação da iluminação em cada um deles, levando-se em conta as informações que cada vértice traz pra formar a imagem. O vértice traz as informações de mapeamento, material, iluminação, etc e a interpolação das informações de cada 3 vértices vai resultar no visual que teremos da superfície.
Bem, porque eu fiquei dizendo isso, né? É porque esse é o fundamento primário da coisa, assim se pode ter idéia da complexidade que é o processo e nos leva a entender o porque do lowpoly.
Quanto aos limites, cada engine tem uma 'potência' diferente, e na renderização do jogo ainda existem recursos de LODs (níveis de detalhe) e outras coisas como mipmaps, etc
Nos jogos de corrida que eu costumo mexer, existem carros que o pessoal faz com uns 5mil tri, mas tem jogos que suportam com 30mil, e ainda existem os mapas enormes como no Mercedes Benz World Racing ou em jogos de guerra como Battlefield.
Os mapas são tratados por partes, aonde, por exemplo, numa pista que eu faço pra corrida, eu separo os trechos de 500 em 500 triângulos pra usar os recursos de lods, etc. Então não é tudo que está sendo calculado ao mesmo tempo, existe um limite da cena principal que o engine prioriza. Até porque além do cálculo gráfico, visual, tem a física, outros processos paralelos.
Pra não te deixar sem alguma idéia de números, vamos imaginar um carro com uns 3000 tri, um grid com 30 carros, mais a pista que pode chegar nos 50mil, 100mil, com todos os cenários, etc. Não é pouca coisa, por isso sempre é bom otimizar ao máximo os objetos e texturas.
Qualquer dúvida pra complementar, é só perguntar.
Abraços