Oi AndersonRocha
Admitindo que você esteja usando o displacement map nativo do Max.
É que displacement é deslocamento, atua sobre a geometria do objeto, você está usando o mapa de forma errada.
Aparentemente para o que você está querendo fazer o Bump resolveria.
Entretanto como você está estudando:
O Displace, como o Bump, interpreta o mapa utilizado em tons de cinza, normalmente usa-se mapas dessaturados (em tons de cinza). O Branco é o mais Alto e o Preto é o mais Baixo. Se o mapa tiver informação de nível na borda vai deslocá-la.Também, para funcionar bem, as superfícies devem ter muitas subdivisões. A resolução do resultado é proporcional à resolução das superfícies.
Espero ter ajudado
Phy