Oi Warley, tudo bem?
Apesar dos dois serem chamados de renderizadores Real-Time, eles são muito diferentes e trabalham com técnicas diferentes.
O Keyshot é um Render no mesmo estilo que você estava acostumado quando estudou 3D, ele trabalha com Raytrace e gera imagens com qualidade fotográfica facilmente, a diferença é que funciona numa aplicação independente onde você importa os objetos em FBX para aplicar materiais, iluminar e renderizar.
Existem outros similares como o Octane, que além da aplicação independente tem Plug-in de conexão com o 3ds max e será oferecido de graça quando lançarem a versão 4 este ano.
Você pode ver as últimas informações sobre o Octane 4 nesta noticia:
http://3d1.com.br/noticia/66889A renderização Real-Time destes renderizadores é de forma progressiva, então, assim que você faz qualquer modificação na cena, a visualização fica bem granulada e vai suavizando com o tempo, esse tempo depende do poder da sua placa de vídeo.
Já o Marmoset Toolbag 3 funciona com a tecnologia empregada nas Engines de Games para renderização realmente em tempo real com dezenas de Frames por segundo e sempre perfeitamente suave como acontece nos jogos.
Então, por enquanto ainda não trabalha com Raytrace, os reflexos são criados a partir de mapas HDR e apesar de conseguir obter resultado fotorealistas, nem tudo fica tão real como fica nas renderizações com Raytrace.
Se você trabalha com visualização de produtos pode ser melhor usar o Keyshot ou Octane, mas se você vai criar Concepts para Games, personagens Cartoon e conteúdo para entretenimento, o Marmoset pode ser uma opção mais rápida e prática.
Abração e tudo de bom.
André Vieira