Oi gente, tudo bem?
Essa é uma questão super elementar no Mental Ray, é a primeira coisa que precisa saber para usar ele, porque muita coisa não vai dar certo se estiver usando qualquer outra sombra que não seja Raytrace, tanto que é o segundo vídeo do curso de Mental Ray da 3D1, é muito importante.
Sombra Raytrace só é ruim para os outros renderizadores, porque o Mental Ray faz tudo com Raytrace e é muito mais rápido do que os outros nisso, é mais rápido do que o Scanline, já que o sistema de Raytrace dele é um dos dois melhores do mundo.
O que define o aspecto da sombra não é o tipo de sombra como acontece nos outros renderizadores, é o tipo da luz, se a luz é emitida por uma área de luz, vai gerar sombra suave perfeita com Raytrace, só gera sombra dura quando usar uma luz pontual, como as Omnis e Spots padrões do programa.
Com o Mental Ray deve-se usar as luzes MR Area ou as luzes Photometrics, porque são muito mais realistas.
E sempre com a sombra Raytraced, nunca com outra, nem com a Mental Ray Shadow Map, porque tudo que faz com a Mental Ray Shadow Map também faz com Raytrace, só que com Raytrace será muito mais rápido do que com Mental Ray Shadow Map.
Portanto, só existe uma sombra quando estiver usando o Mental Ray, é a Raytraced Shadows.
Abraços