Bem 1° de tudo, gostaria de dizer que se eu estiver dizendo alguma besteira me corrigão os mais experientes.
Sendo eu muito fan de mentalray e renders realisticos, porem mesmo para meu quad core, o mentalray possui tempo de renders consideravelmente longos.
Foi então que resolvi teorizar algumas coisas para melhorar detalhes de renders com scanline.

RENDER com radiosity, material raytrace, luzes adv raytrace, e sky com hdri.

Este estudo esta voltado para quem faz composição por render elements em algum outro programa.

Imagem composta no PhotoShop com o AO e o DOF maps, so modifiquei colocando o filtro unshapmask e um layer com ajutes de contrates.

Como gerar o AO no scanline.
No meu caso estou usando tudo como raytrace, material, e luzes adv raytrace, e no render vc pode usar o q preferir, lightracer ou radiosity.

Para o AO crie um material raytrace com difuse e specular branco rgb=255, vc pode deixar spec 0 dai nem precisa deixar ele branco! Aplique a os objetos da cena e ligue apenas uma sky com cor branca e valor 1. eu fiz com valor um, mas vc pode ajustar de acordo com o claridade que vc deseja para a sua cena.

Renderize e vc tera um mapa de AO, salve o para a composição final em outro programa.

Agora o Deth of Field. Eu considero o dof do scanline meio ruim e tambem aumenta o render é claro... opnião minha.
Para o DOF vc deve criar sua camera é claro, desligar o sky light, e no ponto de focos da camera atache uma luz omni com valor 2 e ambiente light ligado e sem gerar sombra! fiz dela uma adv raytrace. nessa omni coloque o far range dela para alcancar a distancia da posicao da camera.

Crie uma outra omni adv raytrace atachada na posicao da camera, atribua valor da luz de 0,5 (esses valores de luz vc regula de acordo com a intensidade de focus/blur q vc vai querer para sua cena, faca testes), no near range deixe star 0 e end = a distancia da sua outra luz, e no far range end coloque para coincedir com a distancia final do far range da outra luz.

O ambiente light vai gerar luz pela cena em tons de gradiente atravessando objetos, como vc possui uma luz no foco da sua camera, aquela parte da cena ficara mais iluminada e portando quando vc for compor no outro programa vc tera ali um foco sem blur, e o resto fica a cargo da luz que foi atachada a posição da camera.

Em cenas com scanline eu utilizo um dome light com omni sem cast Shadow e ambient light on tipo adv raytrace, e lighttrace ou radiosity e material raytrace para o render calcular os ricochetes de luz, e produzir cenas mais detalhadas e por tanto realistas. o Dome eu crio uma metade de uma esfera, vou em object properties e marco o box do backface cull, assim o material de ceu q eu atribuir na esfera, sera visto internamente, e dentro dela esta minha cena montada. no material dessa esfera, eu deixo self-illum 100 e sem specular e uma mapa no difuse para meu ceu ou fundo de paisagem.
Recomendo usar esfera, mas vc pode usar planes, dependendo da sua necessidade e cenario... uso sempre uma sky com imagem hdri nela, e as luzez q iluminarão a cena de forma dramatica e apropriada, do jeito que eu quero, do angulo certo etc...

essas soluções tem tempo de render curtos, pois não tem calculos muito complexos...
o unico trabalho é o fz isso manualmente, e salvar a cena em 1 versao pra cada coisa por garantia.
Utilizando mentalray a mesma cena levada cerca de 1min a mais para renderizar, sem ser com mitchell q ainda aumenta mais o tempo de render, e tambem eu nao tinha ativado o dof (mentalray) q tambem aumentaria ainda mais!
Fica então o meu abraço pra quem curtiu o tutorial^^ e quer renderizar cenas de modo rapido sem muita exigencia para o realismo, mas mesmo assim tentando perder menos desses detalhes.