Oi André, tudo bem?
É bem simples, mas precisa aplicar o Modify Displace Aprox para poder definir para o Max como será feita a subdivisão do Mesh.
Não funciona como o Luiz Subunda falou, se aplicar simplesmente um mapa de Displacement num Plane não muda nada, fica idêntico.
O Displace já é diferente, ele mesmo deforma o Mesh na Viewport sem necessitar de subdivisão, pode ler sobre ele no tutorial com o mesmo nome na Três D1.
Se quer aplicar um mapa de Displacement use um Modify Displace Aprox sobre ele e defina a qualidade da subdivisão, depois pode aplicar o mapa no objeto, com mapeamento obviamente, ai vai ver no render a deformação.
Abraços