Cara ´o seguinte.
Existem poucas extenções que realmente exportam com qualidade as animações. Veja bem.
Tudo vai depenser da engine que voce usa. Uma engine simples como o dark basic pro ela trabalga mais rapido com o .x. O problema que p .x só anima rotação e translação, não chega nem perto de animar deformação de mesh com bones.
O arquivo .3ds poderia não existir, pois em muitas engines que 'suportam' ele nao levam nem a textura do max junto. quanto mais animação com skin.
Se voce quiser fazer um teatpot girando voce consegue. Mas o seu jogo será só isso.
Posso te dar o exemplo do Blitz3d, que tem uma plugin para max que é o .b3d. Essa extenção do blitz3d leva as texturas (inclusive lightmap) e animação com skin, ou seja, um personagem animados por bones.
O que eu quero dizer com isso é que quando voce achar um engine com um mínimo de qualidade, ela vai te disponibilizar um plugin de exportação do max para ela, onde esse arquivo vai suportar texturas de qualidade e animação com skin.
O vrml não se usa mais, pois é sem duvida o de pior qualidade e também so aceita animação por rotação e trasnlaçao. A ultima versao do vrml fo criada em 1997 eu acho.
Se voce quiser escolher uma engine a primeira coisa que voce tem que olhar é os formatos de arquivo que ela aceita, e se tem um plugin para o max com animação que suporte bones e skin.