Navegando he dado con unos artículos que describen algunas técnicas profesionales para el uso de las máscaras con photoshop. Hay un artículo interesante para aislar a modo de recorte siluetas tan complicadas a veces para los diseñadores como un puede ser un árbol.
Lo consiguen jugando con los canales y utilizando sus selecciones para añadir máscaras. Interesante. Puedes verlo a través de la página creative curio , también es un sitio donde se comparten algunas ideas sobre diseño gráfico y diseño web.