Oi Bruno, tudo bem?
Sinceramente, eu não vejo uma forma boa de fazer essa animação, no pouco que pensei aqui agora, após ler sua mensagem, não achei nada que solucione isso com certeza, e é raro não encontrar nada para solucionar uma animação.
Realmente é uma simulação muito difícil de se fazer com realismo e perfeição.
A única coisa que me passou pela cabeça tem que testar para ver se realmente dá certo, pois nunca tinha pensado nisso antes.
Se transformar o papel em Cloth e criar uma esfera envolvendo a cena com as Normals invertidas, poderia animar a esfera diminuindo até embolar todo o objeto.
No meio dessa animação você anima junto mapas de Bump e Displace, para poder criar mais rugas e dobras na malha.
No final, retira a esfera da cena e deixa só o objeto se amassando até formar a bolinha.
Achei muito interessante a questão, quando tiver um tempo eu vou testar isso.
Abraços