Oi Fábio, tudo bem?
Veja só, se você tem imagens de madeira que deseja usar como textura no V-Ray, eu te aconselharia a estudar o Material Editor do Max com o render padrão antes de tudo.
Porque esse procedimento é bem básico e super importante em qualquer renderizador que for usar, começar direto com o V-Ray sem conhecer nada do Max vai dificultar muito seu aprendizado.
Se for isso, leia os tutoriais sobre Material Editor na Três D1, tem vários.
Agora, se você tem livrarias de materiais do tipo MAT que baixou de algum lugar, já configuradas para o V-Ray, e deseja carregar esses materiais no 3ds max, ai são outros quinhentos.
Clica em Get Material para abrir o Material/Map Browser, do lado esquerdo tem a opção Mtl Library.
Seleciona essa opção, vai aparecer botões na parte de baixo, Clica em Open e escolha a sua livraria.
Os materiais dela vão aparecer no Material/Map Browser, é só dar dois cliques para colocar na esfera selecionada no Material Editor.
Abraços