Bom não sei se entendi direito sua pergunta, mas é o seguinte, você não precisar usar o displace como instância do material, assim vc pode criar um mapa só para o displace e criar um material material diferente. Essas manchas acontecem geralmente pela falta de Edges (segmentos), aumente o número de segmentos do seu box e verá a diferença, mas isso só acontece quando usamos o Vraydisplacementmod em type 3D mapping se usar o 2D não terá esse mesmo problema. Uma dica, se for aplicar displacement em Box, aconselho usar o Chamfer Box ao invez do Box, deixe o valor do fillet bem baixo para que fique parecendo um Box, aplique o displacement e veja o resultado, os cantos ficarão ficarão contínuos (não sei se é esse o termo correto). Espero ter ajudado
http://marselmurakami.blogspot.com/