Oi Caio, tudo bem?
O Scaline tem um filtro próprio para vídeo no sistema de Antialiasing, este filtro é ideal para vídeo, mas deixa mais borrado mesmo, como deve ser em vídeo.
Tem gente que acha que o Mental Ray faz imagens muito borradas, claro que é por não saber configurar o AA, mas criar imagens mais borradas é bom, fica mais realista do que imagens super nítidas e o Mental Ray foi feito para vídeo.
Mesmo assim, com os valores padrões dos filtros ele não borra tanto como deveria ser um vídeo, porque espera-se que a pessoa vá compor ainda a imagem e vai aplicar Blur na composição para ajustar ao vídeo.
No Scanline ele não prevê isso e faz borrado como deve ser em vídeo, então, realmente dá essa diferença e fica feio.
Por isso que é melhor usar outros filtros quando renderizar para vídeo com o Scanline, como o filtro Hammerslay indicado pelo Supermax.
Usando este filtro vai ficar parecido com o Mitchell do Mental Ray.
Abraços