Oi Meu Rei, tudo bem?
Tem diversas coisas envolvidas nesta questão, mas a primeira que deve levar em consideração é o tamanho dos Pixels, pois nenhum detalhe menor do que 1 Pixel será visível, já que o Pixel só aceita uma cor pura.
Portanto, a quantidade de detalhes depende puramente da resolução da imagem, porque quanto mais Pixels tiver, mais detalhes serão reproduzidos.
Agora, supondo-se que renderizou em alta resolução, aplicou o Denoiser do V-Ray e mesmo assim está sentindo que os detalhes mais finos acabam borrando e perdendo nitidez, certamente é devido ao valor do Noise Threshold no menu Progressive Image Sampler, como mostra a primeira imagem em anexo, quando o valor está alto faz o Denoiser borrar os detalhes menores.
Então, se baixar um pouco o Threshold para 0.003 ou 0.002, pois por padrão vem com 0.005, você vai preservar melhor os detalhes mais finos, mas vai aumentar o tempo de render, também sugiro que mude para a opção Mild no Preset do Denoiser, como mostra a segunda imagem em anexo.
OBS: O formanto que salva também faz diferença, se salvar em JPG vai perder qualidade, procure salvar em PNG ou TGA.
Abração e tudo de bom.
André Vieira