Uma máscara é essencialmente uma forma plana que cobre os elementos do seu design, normalmente são camadas pontuais de 8 bits. elas podem ser criadas usando separação ou desenhadas manualmente, a máscara pode ser selecionada para isolar áreas ao fazer separações tonais.
Mascarar elementos em designs pode ser visto como um método um pouco antiquado de produzir sua separação de cores e você pode pensar que com os recursos avançados de separação do AVA não haveria necessidade de mascarar partes em seus designs, no entanto, em muitos casos, mascarar áreas é essencial para você ter o controle necessário dos tons e permitir que você obtenha separações limpas e agradáveis. Fazer boas máscaras pode ser a parte mais demorada do seu processo de separação, mas depois de ter boas máscaras, você poderá selecionar essas áreas facilmente, o que acelerará a próxima parte do processo e proporcionará separações muito melhores.
No meu exemplo abaixo, fiz 3 máscaras de camada simples usando uma combinação de: Auto Tonal , Despeckle e Mover (para limpar). Uma máscara para as folhas, fundo e flores.
Abaixo está um exemplo para ilustrar a vantagem de ter uma máscara e como ela pode ser usada. 
Na imagem acima estou tentando separar o rosa claro nas flores, preciso que essa camada fique bem plana pois as outras cores rosa mais escuro devem cair por cima, mas como vocês podem ver quando diminuo o controle deslizante em Separação avançada de cores Recebo áreas rosa no fundo e até algumas verdes. Eu poderia usar o controle deslizante para o outro lado, mas os tons da flor são muito tonais, então a outra cor não ficaria bem em cima do rosa claro.
No entanto, se eu selecionar minha máscara de 'flor' (Selecionar tudo > Selecionar > Ajustar) antes de fazer a separação avançada de cores, você poderá ver (acima) que a separação é feita apenas dentro da área selecionada. Isso torna muito mais fácil obter os tons que desejo e significa que não há rosa indesejado em outras áreas do design que podem ficar ruins quando você está criando cores do design.
Normalmente, as máscaras são úteis em designs onde você tem motivos que são conjuntos claros de cores que não combinam com outras pessoas. Dissemos que as máscaras são úteis/essenciais até mesmo, para muitos designs, é claro que haverá designs onde elas são menos apropriadas, como quando todas as cores se misturam. No entanto, você também pode ter máscaras tonais que podem ser usadas para ajustar os tons de uma textura.
Alguns outros recursos do AVA que podem ajudá-lo a mascarar seus designs incluem: