isso é normal, porque o meshsmooth além de subdividir a malha exponencialmente, tb a arredonda utilizando as distâncias das edges para saber o qto arredondará. faça uma experiencia, crie um box de 50x50x50 e aplique um meshsmooth com umas 2 interações, ele ficará quase uma bolinha, porque as edges nao tem sustentação. para que ele trabalhe corretamente vc tem que criar algumas edges pertinho dessa borda. nao vou conseguir ilustrar direito agora pq to sem max, mas de uma olhada lá no site da redpixel que tem um tutorial muito bom sobre isso.
www.redpixel.com.br. se vc ler o tutorial com certeza vai comseguir resolver o problema que está tendo. qq coisa da um grito aí :)
Um abraço!!!