cara...depende....depende pra que vc vai usar a textura...por exemplo:
se for usar uma texutra, no difuse eu usaria um jpg, fica leve e tem pouquissima perda.
Precisando do alpha channel da imagem o jpg nao tem (ele eh 24 bits) entao salvaria em tga.
Eu desaconselho a usar um psd diretamente em qualquer canal de textura para qualquer software 3d. Dha problema quando em algum canal tem efeitos, smart objects e etc , alem de ficar mais pesado o render.
Quando for usar um software de sculp, zbrush, mudbox e etc tem que salvar com mais bits as imagens, mapa de normal de displament e nesses casos soh funciona bem com tiff que suporta esses dados todos. Alguns artistas por exemplo preferem exporta do zbrush em psd e ir no photoshop e salvar em tiff pra usar como textura.
Por isso que depende das suas necessidades.
vlw !!!!