Oi Rogério, tudo bem?
Eu sinto muito mas o que você disse é totalmente impossível.
Se fosse possível, o maior problema de todos em imagens raster estaria resolvido e a Chaos ficaria milhonária com essa tecnologia, porque nunca ninguém conseguiu fazer isso.
É impossível aumentar uma imagem raster sem perder qualidade, não tem como aumentar a resolução de uma imagem raster, ela tem que ser renderizada no tamanho certo e terá aquela quantidade de pixels, é impossível aumentar a resolução sem perder qualidade, nunca em hipótese alguma pode ampliar uma imagem raster, um mapa de bits, um Bitmap. (TGA, TIF, BMP, JPG, etc)
Só imagens vetoriais podem ser ampliadas sem perder qualidade, porque é gerada por equações matemáticas. (DWG, CDR, AI, DXF, etc)
Um mapa de Bits como um TGA, por exemplo, é composto de pixels, não tem como o programa saber quais pixels estariam nos locais onde vai faltar quando ampliar a imagem, é impossível.
Se pegar uma imagem no PhotoShop e ampliar bastante, vai perceber o que ele faz, ele mescla os pixels ao redor para descobri a cor do pixel que falta, diminuindo a qualidade da imagem e deixando os pixels visíveis, o que chamam de "estourar" ou "pixar" a imagem.
O formato RAW é como um HDR, ele guarda toda a informação de iluminação da cena, permitindo modificar a intensidade e o contraste com perfeição, sem deixar as áreas claras acinzentadas e sem deixar as áreas pretas lavadas.
Ou seja, o formato RAW do V-Ray só permite modificar as cores e intensidade luminosa da cena, mas não permite ampliar o quanto quiser sem perder qualidade, porque uma imagem raster nunca pode ser ampliada.
Pode até ser possível escolher a resolução, mas se dobrar a resolução, o tamanho da imagem cairá pela metade, porque não tem como ampliar imagem raster.
Profissionalmente é um sacrilégio aumentar uma imagem raster, seja em impressão ou em vídeo, porque perde qualidade.
O dia que resolverem isso, certamente vai mudar a forma como se trabalha em CG e será uma das maiores revoluções nessa área.
Abraços