Oi Bernardo, tudo bem?
Fica difícil de responder a sua pergunta, porque é muito ampla para responder numa mensagem de fórum.
Realmente vai ficar difícil aprender o Mental Ray no Max 9 se está começando, porque já é difícil material de estudo sobre ele, ainda mais numa versão que acabou de sair e mudou um monte de coisas.
Os tutoriais que tem aqui na 3D1 são atualizados até o Max 8, mas tem um Artigo que explica as diferenças para o Max 9, está na seção Artigos do site.
Lá você poderá ter uma boa base das mudanças, só que se está começando agora, vai ficar difícil acompanhar nessa versão, vai precisar ter um pouco mais de intimidade com o Render para poder usar da mesma forma no Max 9.
Basicamente seria só habilitar a opção Use Radius Method no Final Gather, mas outros parâmetros mudaram de nome e outros tem ação um pouco diferente.
Eu sinceramente achei um lixo o novo método de interpolação para iniciantes que não sabem usar o Radius.
Porque pode ser que dê certo e fique suave sem esforço nenhum, mas também quando não dá certo, não tem o que você faça para refinar o sombreamento do FG, fica ruim mesmo com muitos Samples.
Com o Radius sempre dá certo e você ainda tem controle fino sobre o resultado.
Dá uma lida no Artigo que te falei e você terá uma base, no Vídeo Curso de Mental Ray da 3D1 eu explico no final dos vídeos todas as diferenças no Max 9 e as novidades que só tem nele, como o material Archi&Design e as luzes MR Sun e MR Sky, por enquanto é o único material no mundo sobre o Mental Ray no Max 9.
Abraços