Oi Liezao, tudo bem?
O Virtual DUB foi feito para AVI, não para MPEG.
Ele só salva em AVI, não salva em outros formatos de vídeo.
Existem modificações do Virtual DUB que aceitam todos os tipos de arquivo, mas cada modificação aceita um tipo diferente, porque ele é um soft livre, então, tem Virtual DUB que aceita WMV, tem o que aceita MPEG, até Real Player aceita dependendo da modificação.
Procura no Google por Virtual DUB MOD que você encontra um monte.
Mas se está trabalhando com vídeos em MPEG, o certo é usar um programa próprio para isso, como o TMPGE, que é o mais famoso e o mais usado.
Com o Virtual DUB o certo é salvar em AVI e depois converter para MPEG no TMPEG.
Abraços