Eu já sei o que é isso, teve um problema parecido no outro fórum estes dias.
Com certeza é a escala da sua cena que está minúscula ou então você modificou as unidades do sistema no Customize>Units Setup>System Units Setup.
Ai nada mais funciona direito, dá pau do raytrace e aparece estas manchas estranhas, aparece esse serrilhado imenso.
É certeza que é isso.
Pega a sua cena e aumenta ela 100 vezes e testa de novo, deve sumir o problema,
Dai vc importa certo da próxima vez, marcando o Rescale e escolhendo Meters na lista, se modelou em metros no AutoCAD.
Se não der certo aumentando 100 vezes é porque vc mudou as unidades do sistema e estragou o programa.
Entra lá no Customize>Units Setup>System Units Setup e coloca Units=1 e Inches na lista, que é o certo e nunca deve mudar!!!
Depois vc muda só no Customize>Units Setup para Metric e coloca Centimeters na lista, porque não Max não é bom trabalhar em metros.
Testa isso e posta aqui para falar se resolveu
Eu procurei o tópico no outro fórum e encontrei, olha ele ai, é o mesmo problema que vc: http://www.tresd1.com.br/viewtopic.php?t=31835