Oi Mgnstudio, tudo bem?
Não existe uma receita para iluminação, depende de cada situação.
Uma iluminação que fica adequada numa cena, pode não ficar em outra.
Por exemplo, você vai fazer uma imagem e usa um HDRI azulado no ambiente, o que é bem comum porque o céu é azul.
Só que quando for renderizar objetos dourados eles vão ficar levemente esverdeados neste ambiente, então, vai ter que trocar.
Vamos supor que você vai fazer um copo e quer mostrar o efeito de Caustics, então, vai colocar uma luz mais alta de forma que valorize este efeito.
Mas se em vez de vidro é um objeto de cêra, você vai prefeir colocar uma luz atrás para valorizar o efeito de SSS na silueta.
Então, depende de cada cena, não tem uma regra, o certo é aprender a iluminar, assim, poderá iluminar em qualquer situação.
Se for um ambiente de estúdio você vai usar luzes MR Area Spot ou Photometric Area ao redor e em cima do objeto.
Se for um ambiente externo, você vai usar uma luz MR Area Spot como sol e uma Skylight como céu. A partir do Max 9 você pode usar o sistema Daylight com as luzes MR Sun e MR Sky.
Sobre as mudanças no Mental Ray, na verdade a maioria são mudanças de nome apenas, os recursos são os mesmos e funcionam da mesma forma que no Max 8, mas tem algumas novidades, algumas adições.
Fica difícil de explicar aqui porque daria um pequeno livro, mas eu explico todas as diferenças do Max 8 para o Max 9 e 2008 no curso de Mental Ray da 3D1, já que do Max 9 para o 2008 não teve nenhuma modificação.
No futuro eu pretendo atualizar os tutoriais de Mental Ray aqui da 3D1 para as versões atuais, mas por enquanto não estou com tempo para fazer isso.
Os novos tutoriais que estou escrevendo já são todos no Max 9 e usando as novidades presentes nele, como todos os últimos tutoriais que postei, mas aqueles primeiros mais básicos ainda estão na versão até o Max 8.
Especificamente sobre o Radius do FG, você pode habilitar na parte de baixo da janela do Final Gather a opção para usar o método do Radius, que é o melhor mesmo, mas vem desligada por padrão a partir do Max 9 para facilitar para os iniciantes.
Abraços