Oi Faf, tudo bem?
Seja bem vinda ao nosso site, espero que goste e que participe bastante aqui com a gente.
Sobre a sua dúvida, existem diversos recursos do PhotoShop para fazer isso.
Por exemplo, se você fizer uma seleção, acessar a ficha Channels e criar um novo canal, poderá digitar ALT+Backspace ou ALT+Enter para pintar a seleção com as cores de Foreground ou com a cor de Background.
Então, terá uma imagem em tons de cinza na ficha Channels com o nome de Alpha1.
Essa é a imagem da seleção e pode ser salva junto com a própria imagem no formato PSD ou em formatos que aceitem o canal Alpha, como TGA e TIF, por exemplo.
Você pode ter mais de um canal Alpha no arquivo PSD.
Este é o processo mais comum em composição.
Mas você também pode simplesmente salvar a seleção no próprio arquivo sem Alpha, mas o arquivo precisa ser salvo como PSD.
Para fazer isso, basta ir entrar no menu Select>Save Selection, assim, abrirá uma janela para você colocar o nome da seleção.
Ainda pode fazer operações com seleções nestas janelas, somando, subtraindo e intersecionando seleções.
Ainda tem a opção de Path, onde você pode desenhar uma seleção igual faria com vetores num programa vetorial, como o Corel por exemplo.
Depois do Path desenhado, você pode salvar como um arquivo separado em formato de vetor (AI - Adobe Illustrator).
Esse arquivo com o Path pode ser aberto novamente no PhotoShop e a seleção que ele representa pode ser recuperada em qualquer arquivo.
OBS: Se você salva uma seleção no Select>Save Selection, você pode ler essa seleção no mesmo lugar e também pode recuperar essa seleção em outro arquivo que não tenha nada gravado, este outro arquivo que não tem nada gravado precisa ter o mesmo tamanho do arquivo que salvou a seleção.
Abraços