Oi Edson, tudo bem?
Só o Mental Ray que faz o Displacement sem problema apenas aplicando a imagem no canal Displacement do material, porque as configurações do Displacement do Mental Ray estão na janela Renderer, não precisa de mais nada.
Em todos os outros renders você precisa aplicar Modifiers que atribuem este efeito no objeto, o V-Ray tem o seu próprio Modify para isso e o Max também.
No caso do Max você deve aplicar o Modify Disp Aprox para configurar a subdivisão da malha que será efetuada pelo Displacement.
Veja que não tem a mesma qualidade do Displacement do Mental Ray, será necessário já ter uma boa resolução na malha para conseguir a mesma quantidade de subdivisões.
Abraços