O mental ray já tem proxy automático, é só copiar os objetos como instância e marcar a opção use placeholder objects na aba processing.
É bom marcar também o use mental ray map manager, para ele fazer o mesmo com a textura.
Se a cena é muito grande, mude para large bsp na aba renderer e diminui o tamanho do bucket.
Também tem o conserve memory na aba processing que ajuda muito.
Mas tem como fazer proxy com mais recursos usando shaders de terceiros, o Is Mi Object é um deles.
O texture lookup que já vem no Mental Ray faz proxy de texturas grandes.
Sobre o AO, se não tiver usando o material arch&design, que já tem AO embutido e já sai tudo junto no render, vc cria um material mental ray, coloca o shader de AO no surface e aplica em todos os objetos.
Dá para aplicar também no material override da aba processing, ai não troca pelos materiais originais que estavam nos objetos.
Se é um ambiente interno tem que ajustar o max distance para ficar bom, em ambiente externo já fica bom logo de cara.
Depois vc coloca essa imagem do AO em cima da imagem normal no photoshop e muda o layer para multiply