Bem vindo aqui GMenatti.
AO é um efeito de sombreamento na cena.
Quando a gente coloca efeito de GI pra deixar a luz mais realista, normalmente a cena perde um pouco do sombreamento por essa reflexão da luz.
Ai o Ambient Occlusion ajuda a realçar esse sombreamento de novo.
Tem duas formas de usar, uma é fazer o render normal da cena sem AO e no final colocar um material com AO em todos os objetos, ai faz um render só com AO e leva as duas imagens pro Photoshop, a com AO e a normal.
No Photoshop vc coloca a imagem normal primeiro e cola a com AO em cima.
No Layer dessa imagem com AO vc muda pra Multiply e diminui um pouco a opacidade pra controlar o sombreamento em cima da imagem.
A outra forma de fazer é já colocar AO direto nos materiais da cena, dá um pouco mais de trabalho mas fica bem melhor e tem mais controle, porque pode configurar o AO individualmente em cada objeto e o AO é usado junto com os calculos de FG pra melhorar a cena.
Se você usa o Mental Ray é bem fácil de fazer estas coisas.
Ele tem o Shader Ambient/Reflective Occlusion.
Vc pega um material Mental Ray e coloca esse Shader no slot Surface.
Se for cena externa nem precisa configurar, é só aplicar e renderizar sem luzes e sem efeitos de GI.
Se for cena interna vc tem que controlar o Max Distance pra não ficar tudo preto.
Se quiser usar direto no material, pega o material Arch&Design do Mental Ray que ele já vem com AO embutido.