De acordo com o que o julio falou eu acho que o problema é o que o flavio descreveu, e não o fato de o arquivo ser jpg ou png, ou qualquer outro formato.
Mas usar png no 3ds max (como textura) não é recomendado, pois o max não trabalha bem com png em texturas.
Se for usar jpg, lembra sempre de deixar o máximo de qualidade possível (se usar photoshop o maximo é 12).
Mas se vc tiver texturas cujo o formato nativo seja tif ou qualquer outro sem compactação (o que não é o caso do png, ele é um formato com compactação como o jpg, podese dizer que ele é um jpg evoluido, pois aceita canal alpha) de preferencia por usar esses arquivos no formato original, sem compactação, assim vc tera uma qualidade bem maior no seu render.