Ai Allan, vc está indo bem, o tapete tá saindo, mas precisa de mais resolulção pra ficar melhor.
Faz um teste separado, em outro arquivo sem iluminação, ai fica mais rápido e vc aprende a ajustar direito.
Primeiro tenta aumentar a resolução do plane, com mais segments ou colocando o modificador turbo smooth.
Se isso não melhorar os fios e deixar bem nítidos, entra na janela render scene>renderer e na parte de baixo tem as configs do displacement.
O valor do edge lenght é 2 se não me engano, diminui pra 1.5 e renderiza, vê se melhora os fios.
Pra testar o caustics é melhor deligar todos os outros efeitos da cena, pra ir mais rápido.
Ai quando configurar certo vc liga tudo pra renderizar com tudo junto :)