Ambient Occlusion, também conhecido pela sigla AO, é um recurso que gera um sombreado no objeto de acordo com a oclusão do ambiente, ou seja, nas áreas escondidas é aplicado uma cor mais escura e nas áreas aparentes é aplicado uma cor mais clara.

É muito útil para conseguir sombreados detalhados, principalmente em partes pequenas do objeto, sem necessidade de usar configurações elevadas no render.
O Scanline, render básico do 3ds max, não oferece este recurso, é necessário habilitar o Mental Ray no F10 > Assign Render > Production > Mental Ray.
Com o Mental Ray habilitado você encontra o recurso de AO no menu Special Effects do material Arch&Design e também tem a opção do Shader Ambient/Reflective Occlusion para gerar o AO separado ou mesmo para aplicar em canais dos materiais e criar diversos efeitos.
No recurso de AO disponível no material Arch&Design você tem a opção do Exact AO, que permite reconhecer opacidade no material e auto-iluminação, caso contrário, o sombreamento do AO não indetificará transparências e materiais que emitem luz, criando sombreados indesejados.