HE!HE!
Olhando o help do arch design já vi como se faz. Eu tinha feito o tutorial sobre o arch design, mas eu não tinha entendido direito essa parte dos cantos concavos e interseções entre os objetos.
Na verdade eu vi que em cantos concavos não tem jeito mesmo de ocorrer o efeito de corners, mas entre dois objetos separados sim. O que deve ser feito é fazer com que a malha de um penetre um pouco a malha do outro. Isso deve ser feito em ambas as malhas as duas penetrando-se, entrando uma dentro da outra). Aí tu usa esse recurso para dar o efeito nos cantos de um objeto.
Então quando tiver fazendo um objeto e queira que o efeito do corner ocorra nos cantos, tu deve separar as malhas, que se encontram entre si nos cantos, em objetos diferentes (detach). Aí mova as edges ou vertices para que uma malha fique um pouco dentro da outra (acho melhor mover as edges com SHIT pressionado, assim de vez mover irá criar cria mais poligonos sem alterar a posição das edgfes selecionadas.
Tanto faz se for objetos diferentes ou simplesmente elementos diferentes. O que importa é que as malhas devem ser separadas e penetrarem entre si.
Aí no exemplo da imagem que de um lado eu separei a malha e deixei elas se penetrarem, já do lado direito está como malha única e o efeito não ocorreu. Vou tentar fazer depois com o material do v-ray e caso eu consiga posto aqui. ´uma pena que o corner do arch design não parece funcionar no v-ray.
Bom! Sei que isso nem resolve o seu problema, mas foi pelo fato de ser sobre o mesmo assunto e era algo que eu não sabia como fazer, aproveitei e postei aqui.
No vray ele cria o efeito nos canto, mas só se for na mesma malha, em malhas diferentes interseccionadas não.
Já o mental ray é o contrario, só cria o efeito em malhas separadas intereccionadas mas na memam malha não.
Pensando bem fsz mais sentido o modo do vray, se é o mesmo objeto os cantos tem que ficar aredondados. Mas se são objetos diferentes não precisa!