Oi Paulo, tudo bem?
Você pode fazer as ranhuras no pneu usando uma imagem no canal Bump do material da sola, em alguns carros que coloquei para download aqui na 3D1 tem uma imagem de pneu para este fim.
Agora, quanto ao peso do arquivo, realmente não é para ficar com 210 MB, está exagerado, tem que exportar com mais resolução só o que realmente importa, o resto deve ser exportado com menor resolução.
Normalmente exportando em 3DS sem modificar a configuração de qualidade na barra que aparece, fica com bom qualidade e não fica tão pesado.
No Mental Ray você pode habilitar as opções Use Placeholder Objects, Use Mental Ray Map Manager, Conserve Memory e passar para Large BSP na lista do Raytrace Acceleration, assim, com certeza absoluta vai renderizar sem dar mensagem de erro, apesar de demorar um pouco mais no render.
No V-Ray se deu pau de memória não tem mais o que fazer, ou transforma tudo em Proxy com suas limitações e tudo mais, ou apaga objetos para renderizar.
Muita gente exporta do Rhino para renderizar no Max, principalmente com o Mental Ray, porque V-Ray tem para o Rhino.
É bem comum e normal o intercâmbio entre os dois programas, você pode tentar testar o Power Translator da NPower, que permite abrir arquivos nativos do Rhino no 3ds max, em Nurbs, sem exportar em polígonos.
Abraços