Ai azhraelbr, o V-Ray não tem um recurso próprio de Volume, ai ele usa o do Max que é bem fraquinho.
Por isso que não aceita algumas coisas e fica meio irreal.
Se colocar um vidro transparente no volume vc vai ver como ele não reconhece direito.
Pra fazer no Mental Ray é igual no V-Ray, as mesmas técnicas que vc usou nele vai usar no Mental Ray.
Até pode usar o mesmo Volume do Max, que quando renderiza com o Mental Ray é convertido para Shaders do Mental Ray e fica bem mais poderoso, por exemplo o negócio do vidro transparente.
O Volume do Max não aceita transparência, mas quando renderiza com o Mental Ray aceita, porque na verdade não é o Volume do Max que ele está usando, só a interface é a mesma.
Mas pra ter acesso a todos os recursos de volume e poder modificar os valores de R, G1 e G2, tem que usar o Shader Parti Volume.
O Mental Ray é um render mais profissional e é mais difícil de usar do que o V-Ray, essa parte de volume complica um pouco.
Mas o resto da cena vc iria fazer igual no V-Ray, só teria que mudar os materiais e as luzes, porque o Mental Ray não vai aceitar as luzes e os materiais do V-Ray.
Pra configurar o Parti Volume vc tem que colocar ele no slot volume do Camera Shaders dentro da aba Renderer do Mental Ray.
Ai você tira uma instância e coloca no material editor pra poder configurar.
Lá vai ter o valor do R, G1 e G2.