Oi Leko, tudo bem?
É mais ou menos assim:
O Max cria um mundo 3D onde você pode modelar objetos e criar uma cena em 3 dimensões.
Na Viewport do programa você só vê um preview do que está fazendo, porque não dá para mostrar a imagem com todos os efeitos de materiais e iluminação em tempo real, demora muito para calcular isso.
Quem faz o calculo de todos os efeitos da cena para criar a imagem realista é o render.
O 3ds max vem com 2 renderizadores, um é o Scanline, render padrão do programa que conta com um aditivo chamado Radiosity para gerar o efeito de GI, que deixa a cena mais realista, este é o único efeito avançado de iluminação que ele permite.
Mas desde a versão 6 o Max vem também com o melhor render do mundo embutido nele, a Autodesk fez uma parceria com a Mental Images para adicionar o Mental Ray no 3ds max.
O Mental Ray foi usado em todos os filmes que você viu nos cinemas desde que existe 3D em cinema e ele está integrado nos 3 grandes softs de 3D do mundo.
O Mental Ray vem integrado no Maya e no SoftImage XSI também, só no Max que não vinha, mas desde o Max 6 passou a vir, então, você não precisa de nenhum render de terceiros para criar todos os efeitos possíveis e imagináveis em 3D, pois o Mental Ray aceita criar todos eles.
Agora, existe também muitos renderizadores feitos por outras empreas e que são usados como Plug-ins no Max, muitos são bons, outros nem tanto, mas nenhum é tão bom quanto o Mental Ray e ser um plug-in também trás muitos problemas.
Estes renderizadores de terceiros não tem muita compatibilidade com os recursos padrões do Max, então, tudo tem que ser feito com os recursos dele e se não tiver um recurso dele para fazer o que deseja, pode ser que não dê para fazer.
Estes renderizadores também não costumam oferecer todos os efeitos e recursos possíveis em render 3D, porque são renderizadores que ainda estão em desenvolvimento. Também apresentam muitos bugs e problemas enquanto o Mental Ray só tem 3 bugs conhecidos.
Tem que pensar muito bem em tudo isso antes de escolher um render para usar, porque depois pode ficar mais difícil se tiver que migrar para outro render.
Sobre instalação do V-Ray, é proibido comentar sobre instalação de programas aqui no fórum, porque é um assunto que leva a pirataria.
O V-Ray é um soft comercial e deve ser comprado na Chaos Group, qualquer problema de instalação deve entrar em contato com eles.
Sobre o textura do piso, você pode usar o mapa Tile no Diffuse para criar a diferença de cor no rejunte.
Para criar a impressão de saliência do rejunte você faz uma cópia do mapa Tile do Diffuse para o canal Bump do material.
Se quiser ver o Mental Ray, para habilitá-lo você deve acessar a janela Render Scene teclando F10, depois entre no menu Assign Render e clique no botão com 3 pontinhos em frente ao item Production, assim, vai abrir a janelinha onde poderá escolher o Mental Ray.
Quando o Mental Ray estiver definido como Render, as fichas dele aparecem na janela Render Scene e os Shaders aparecem no Material/Map Browser dentro do Material Editor.
Abraços