Oi gente, tudo bem?
Realmente o objeto não precisa ter os cantos arredondados, mas ai vai depender de um tratamento adequado no mapa e no mapeamento.
A melhor forma é criar um arredondamento no canto, nem que seja bem pequeno.
Como o Displacement precisa de um objeto em boa resolução para economizar memória e subdivisões, basta criar um pequeno chanfro no Box e aplicar o Mesh Smooth ou o Turbo Smooth.
Aplicar apenas o Smooth e tornar as Normals plantas colocando o valor 90 dá certo, mas não fica tão bom quanto chanfrando o Box e aplicando Mesh Smooth ou Turbo Smooth.
O Shader 3D Displacement não serve para isso, porque o 3D dele é em relação a superfície.
O que este Shader permite fazer é deformar o displacement em Z, coisa que os outros renders não conseguem fazer.
Você pode usar um segundo mapa neste Displacement para controlar a curvatura em Z da extrusão do Displacement, por isso que chama 3D Displacement.
Abraços