Sí, es ese botoncito. Las máscaras de capa son Dios y cuando te acostumbras no puedes trabajar sin ellas.
Básicamente es un dato binario que se superpone encima de la capa. El blanco significa mostrar contenido y el negro ocultarlo. Cualquier tono de gris intermedio es el nivel de opacidad. Blanco seria 100% y negro 0%; gris neutro, 50%.
Lo que te permiten es "borrar" trozos de una capa sin alterarla realmente. Basta con pintar de negro la zona que quieres. Si te equivocas o te pasas, cambias al color blanco y vuelves a pintar por la zona. Es muy útil al recortar zonas complicadas como el pelo o al fundir capas entre sí con algun degradado. También si aplicas un filtro o superpones una capa sobre la composición, te permite esconder el efecto en ciertas zonas. Por ejemplo, si usas niveles o curvas para el contraste, puede dibujar una zona en negro con una opacidad del 50% para que el efecto en una figura sea menos intenso. Y luego si no te convence, le aplicas un poco mas en la cara o las partes del cuerpo que te parezca. Al principio se hace un poco raro de trabajar así, pero cuando le pillas el truco es muy cómodo.
Si no lo terminas de pillar, busca algún video para verlo en vivo. Para iluminación y sombreado es bastante útil. Puede ver algún tutorial de la tecnica de Dodge and Burn para crear volumen. Normalmente lo aplican con máscaras de capa.