Pour ajouter un exemple récent à la réponse d'Andon, GTA V utilise le stencil buffer un peu comme un ID buffer pour marquer le personnage du joueur, les voitures, la végétation, etc.
Il utilise ensuite la mémoire tampon du pochoir pour, par exemple, appliquer la diffusion sous la surface uniquement au personnage ou l'exclure du flou de mouvement.
Voir le Étude graphique de GTA V (fortement recommandé, c'est une excellente lecture !)
Edit : bien sûr, vous pouvez le faire dans un logiciel. Mais on peut tout aussi bien faire de la rastérisation ou de la tessellation dans un logiciel... En fin de compte, c'est une question de performance, je pense. Avec depth24stencil8 vous avez un format supporté par le matériel, et le test de stencil est probablement plus rapide que de faire des discards dans le fragment shader.