Oi John, tudo bem?
A criação de materiais realistas não é uma parte muito simples, depende de duas coisas, conhecer muito bem todos os recursos de materiais do render que estiver usando e observar muito o comportamento destes materiais reais no mundo real.
Porque só conhecendo bem os recursos que o programa oferece e observando muito a realidade que você vai conseguir reproduzir o material que quiser com perfeição.
Não existe uma receita, porque um material que fica bom numa cena, pode não ficar bom em outra, devido a iluminação e os efeitos aplicados na cena.
O ideal é fazer uma cena simples com um objeto no centro para testar a criação de materiais.
Aqui na 3D1 tem um tutorial explicando todos os recursos do material V-Ray, mas precisa conhecer e dominar bem também os mapas procedurais do 3ds max, para poder compor seus materiais.
Também temos tutoriais sobre HDRI, tanto no V-Ray como no render padrão, que serve também para o Mental Ray.
Conhecer sobre iluminação também é muito importante para obter renders realistas.
Por tudo isso que o normal é estudar estes recursos sem V-Ray e sem nenhum render profissional, só depois que dominar bem luzes e materiais que deve estudar um render profissional, caso contrário, será bem mais difícil.
Abraços