Oi Sérgio, tudo bem?
Mapa de Z-Depth é assim mesmo, porque se tiver Antialiasing vai dar defeito no efeito de desfocagem, que não vai respeitar corretamente os objetos em primeiro plano e em segundo plano, criando um borrado na borda entre estes objetos, sendo que apenas o objeto de fundo deve desfocar e o da frente não.
Em composição de vídeo, normalmente a imagem é feita com pouco Antialiasing também e depois do DOF aplicado, você usa um Gaussian Blur sobre tudo para atenuar e mesclar.
Vale lembrar que este efeito não fica bom em determinadas situações, porque usar mapa de Z-Depth é uma forma de burlar o tempo de render.
Fica ótimo em muitos casos, mas em alguns não, como um gramado, por exemplo, vai dar para perceber o limite do plano de foco.
Se o seu pássaro estiver todo na parte em foco ou todo na parte fora de foco, tudo bem, se estiver no limite do foco, vai aparecer defeitos.
Não é todo efeito da cena que vai aceitar o DOF desta forma, como se tiver um espelho na cena, por exemplo, não vai dar certo o DOF com mapa de Z-Depth.
Em alguns casos tem que renderizar o DOF para valer em 3D, é mais demorado, mas sempre fica perfeito em qualquer situação.
Ainda tem Shaders de DOF que são mais otimizados e tem para download aqui na 3D1.
Abraços