Oi Abilio.
Abaixo vou colar a resposta do André.
---------------------------------------------
Oi, tudo bem?
O Flicker acontece quando ocorre o batimento da iluminação, ou seja, a luz muda de um Frame para o outro.
Em 3D acontece quando a solução de iluminação não é suficientemente precisa causando manchas suaves na imagem, que muitas vezes não são percebidas em fotos estáticas, mas como estas manchas mudam de posição de um Frame para o outro em animação, fica bem nítido no vídeo dando a sensação de batimento da luz.
Na realidade também acontece, depende da frequência da câmera e da luz que está sendo gravada, em certos casos a luz parece piscar, bater, é mais comum com luzes fluorescentes, mas um exemplo é quando grava a tela de um PC, que a taxa de atualização é diferente da câmera e aparece uma linha subindo na tela, quando na realidade não vemos essa linha.
O Jitter, pelo menos em 3D, é um recurso para tornar aleatória a distribuição dos Samples de Antialiasing para evitar que seja necessário aumentar o sampleamento para resolver determinados defeitos de Antialiasing, por exemplo, quando tem linhas finas levemente inclinadas na imagem pode aparecer serrilhado sem o Jitter porque os detalhes são menor que 1 pixel e com os Samples sempre no centro do pixel continuará serrilhado, enquanto que, com os Samples desalinhados do centro, a suavização vai atingir o pixel do lado diminuindo o efeito de serrilhado.
Mesmo assim, este recurso não faz milagre, as vezes a única forma de retirar o serrilhado de detalhes tão finos é aumentando a resolução da imagem, para ter pixels suficientes para descrever os detalhes.
Abraços e tudo de bom.
André Vieira