Oi Festamix, tudo bem?
As coisas são mais complexas quando se trata do Mental Ray.
Não basta aplicar um material de vidro que fique bom nos slots de materiais no Material Editor.
Porque o Material Editor não tem recursos avançados de iluminação, então, o que vai aparecer no render é diferente.
O Material Glass não é uma boa para usar, como eu explico no Vídeo Curso de Mental Ray da 3D1, pois ele não tem o controle da sombra.
Com esse material na esfera só vai ficar bom se habilitar o recurso de Caustics na cena, porque esse Material exige Cautics, sem isso a sombra sempre vai ficar preta.
Com qualquer outra forma de criar vidro no Mental Ray, você não precisará necessariamente de Caustics, porque poderá montar um material de vidro com controle da sombra independente.
O Material Glass que já vem pronto é um Material Mental Ray com um Shader Dielectric no Surface e uma instância dele no Photons, portanto, não tem Shader no Shadow, como eu explico no vídeo curso.
Se você montar o mesmo material usando o Dielectric, poderá aplicar um Shader de Shadow para controlar a sombra.
Esse é um problema, ainda tem o do IOR Out, que o Caio explicou, pois não há necessidade de usar o outro IOR se não tem líquido dentro do vidro, mas ainda tem outro problema.
O Shader Dielectric, que é esse que forma o material Glass, depende da espessura do objeto para ficar certo.
Sem definir a espessura no valor do Light Persistence, vai ficar tudo preto no caso da esfera ser muito maior do que o valor usado no Light Persistence.
Porque se o vidro for 50% cinza e o objeto tiver 10 unidades de diâmetro, só vai ficar 50% cinza no objeto se o Light Persistence estiver com 5 unidades.
Se o Light Persistence tiver 10 unidades, o objeto ficará totalmente transparente, se o Light Persistence tiver 1 unidade, o objeto ficará preto.
Sugiro que crie materiais com os recursos padrões do Max se está iniciando no Mental Ray, pois você pode criar vidro perfeito com o Material RayTrace e não terá esses problemas técnicos.
Todos os materiais do Max são traduzidos para Shaders do Mental Ray na hora do Render, não é como no V-Ray que você tem que usar só os materiais dele, no Mental Ray você pode usar os materiais do Max numa boa, inclusive, é o mais indicado para usuários iniciantes e intermediários no render.
Use apenas os materiais do Max até conhecer bem o Mental Ray.
E sobre o valor do Phong que o Caio comentou, faz muita diferença sim, é com o valor do Phong que você cria brilho no objeto.
Com valores baixos o vidro não cria brilho, tem que ser valores maiores que 30, com 62 vai ter brilho, quanto maior o valor, mais polido é o aspecto do brilho.
Abraços