Oi Cadu, tudo bem?
Esse noise que está vendo na sobra é bem típico da Area Shadow do Max, eu pretendo fazer um tutorial explicando melhor a Area Shadow e a Adv Ray Traced.
O modo de ajustar essa sombra é igual a ajustar GI, você configura em baixa qualidade vendo o noise, é por meio deste noise que sabe se a sombra está boa ou ruim, estando boa é só aumentar a qualidade que sai perfeito.
Por exemplo, não pode deixar os pontos muito espaçados e nem muito salientes, usando o Shadow Quality e o Shadow Integrity nas configurações default, se esiver com 2 no Integrity e 5 no Quality e obteve este resultado, então está perfeito, apenas aumente o valor de Integrity e Quality que a sombra sai perfeita, tente usar 4 e 8, deve ficar bom, se não usa 5 e 10.
O Sample Spread é para aumentar a qualidade dos Samples conforme aumenta a "abertura" (Spread) da sombra, porque se abre demais os pontos ficam mutio separados e salientes, tendo que aumentar muito o quality e o integrity para resolver, ai o tempo de render sobe muito, saca?
Abraços