Oi
Sua pergunta carece de um pouco mais de informação para que se possa ajudar efetivamente: tipo de hardware que você está usando (computador e placas de áudio e vídeo), dimensão da captura (resolução da imagem, tempo médio de captura e tamanho final de arquivos), caracteristica do produto final (vídeo analógico ou digital), etc...
O VirtualDub trabalha com o driver do codec Video for Windows, que não é dos melhores.
Inúmeros fatores podem provocar assicronia de áudio e vídeo, sugiro que você leia com atenção os FAQs da VirtualDub no site oficial.
Algumas dicas:
Na maioria das vezes o problema se dá por conta de "engarrafamento" no processamento.
Capture apenas o mínimo necessário, evite deixar muito espaço para corte posterior à captura
Cuide que a resolução da captura seja compatível com o produto final,não use resolução acima do que você vai precisar.
Evite o uso de TSRs (programas residentes: Antivírus, Firewall,etc..) quando capturando e editando, podem retardar o processamento em hardware lento.
Se o seu hardware de captura permitir trabalhe com codecs mais confiáveis e procure um programa editor melhor.
Espero ter ajudado
Phy