O RT é um render do tipo path tracer de força bruta, em geral ele é mais lento que o render normal mas não faz nenhum tipo de interpolação como o que acontece no irradiance map ou no light cache. Por outro lado tem a vantagem nessa versão 2.0 de ser acelerado pela GPU, só não sei se uma FX580 seria muito vantajosa ja que ela tem poucos cores então deve ser um pouco lenta.
Vc tem dois modos de usar ele: como render final, substituindo o vray normal. Esse tipo de render tem a característica de ir refinando a imagem eternamente, traçando mais raios, ou parar depois de um tempo ou após atingir um nivel de ruido, vc escolhe nas opções do render.
A outra forma dele trabalhar é como active shade, essa pra mim é a preferida pois ele vai atualizando a imagem conforme vc trabalha, funcionando de forma interativa.
Recomendo ler o manual dele pra entender melhor:
http://www.spot3d.com/vray/help/rt100/