Oi 3duardo, tudo bem?
No V-Ray não dá para gerar estes efeitos igual no Mental Ray ou igual a qualquer outro render da geração dele, porque o V-Ray é o único que não possui recursos próprios de Volume e tem que usar o recurso padrão do Max, que é muito fraco e limitado.
Por exemplo, o recurso padrão de Volume do Max não aceita transparência, mas se renderizar o mesmo recurso padrão de Volume do Max com o Mental Ray, ele aceita gerar transparência e todos os efeitos, porque na verdade este recurso é convertido para Shaders de Volume do Mental Ray na hora do render.
O V-Ray não tem este recurso e usa o do Max mesmo, que não permite fazer muita coisa, e efeitos de volume são muito importantes, é raro uma cena que não tenha volume, já que apenas fora da atmosfera terrestre não tem volume.
Para o realismo de luzes é muito importante também, porque permite ver o ponto de emissão da luz e sua propagação, deixando a cena bem mais real.
Com o efeito de volume padrão do Max você pode criar névoa, neblina, fachos de luz, mas não pode criar o ponto luminoso e a distribuição como acontece com o Shader Beam, por exemplo.
No V-Ray teria que usar os recursos do Effects, que é uma gambiarra do render padrão para gerar este ponto luminoso, já que o efeito de volume do Max não permite isso.
Só que os recursos de Effects não são reais em 3D, são aplicados após o render, então, não interagem com a cena como o efeito de volume proporcionado pelo Shader Beam.
As vezes algum leitor que usa o V-Ray reclama quando alguém fala que o Mental Ray é melhor, mas é só reparar nestes detalhes que já fica bem clara a diferença entre os dois, sem nem precisar estudar melhor o Mental Ray ou outros renderizadores.
E veja que não é uma questão de puxar sardinha para o Mental Ray, é uma questão destas pessoas não conhecerem nada sobre render, porque o V-Ray é o único que não faz isso.
Se pegar o Brazil Render, ele tem efeitos próprios de Volume e aceita gerar esta atmosfera, inclusive aceita gerar Volume Caustics.
Se você pegar o Final Render, que é super problemático, ele também aceita gerar todos os efeitos de Volume e até Volume Caustics.
Só o V-Ray que não aceita gerar estes efeitos e o pessoal que usa ele ainda fica bravo quando falam que outro render é melhor, porque só conseguiram bons resultados com o V-Ray ou com renderizadores Unbiased, então, como não conseguiram bons resultados em renderizadores mais profissionais eles consideram que o V-Ray é melhor.
Por isso que eu tenho certeza que o V-Ray só ficou popular graças as bibliotecas da Evermotion e os materiais do site V-Ray Materials.
Não tem outro motivo, porque ele é o que oferece menos recursos entre os 3 da mesma geração, não é o mais fácil de configuar, apenas tinha a vantagem de oferecer presets de configuração desde a primeira versão e um ótimo material.
Então, não vejo outro motivo para ele ter ficado tão popular e o pessoal de maquete ter preferido ele no começo.
Já que com todos os outros você consegue o mesmo resultado e tem mais recursos, só não tem as bibliotecas da Evermotion e os materiais do site.
O V-Ray é um ótimo render, atende bem o pessoal que trabalha com maquete, mas ele não aceita gerar todos os efeitos e está muito longe do Mental Ray e de outros renders também.
Como você está começando, eu sugiro que você estude bem o V-Ray, para poder fazer tudo que precisa nele, mas depois, estude outros renderizadores.
Estude o Brazil Render, o Final Render, estude também um render unbiased, como o Maxwell ou o Fryrender.
Porque só assim você vai ter a visão correta sobre o V-Ray e sobre o mundo do render 3D.
Sei que é bravo estudar vários renderizadores, vai levar uns bons anos, mas isso vai te dar uma visão privilegiada sobre este mundo, coisa que a maioria dos usuários não tem, principalmente os que só conhecem bem o V-Ray.
Veja este teste, não dá para fazer no V-Ray.
Abraços