cara isso é questão de configuração do Antialiasing, o que vejo muito é a galera usando o filtro Catmull-Rom, esse filtro é bom porque tem mais precisão em mostrar com mais detalhe a volumetria do objeto deixando as edges do objetos mais aparentes, e quando o objeto não tem um sutil filet ou chamfer nas quinas que no caso é as edges o serrilhado aparece, se você usar o filtro area vai ver que o serrilhado já some por completo ou deixa menos aparente o serrilhado, mas observando que ele fica mais aparete (serrilhado) se não tiver os chafer ou filets. E para melhorar em visualizações linhas uma boa seria usar o filtro também Adptative DMC ( versões mais antigas é QMC).
espero ter ajudado.
www.fabulaestudio.com.br / www.saulolisias.com