Plan

1. Plan I. Définitions & classification II. Approche fonctionnelle III. Quelques méthodes de segmentation

2. Segmentation d’images Philippe Ciuciu(CEA/SHFJ) ciuciu@shfj.cea.fr http://www.madic.org/people/ciuciu

3. Cours préparé à partir de ressources Web et de Jean-François Mangin (CEA/SHFJ)

4. I. Définitions & classification

5. Pas de norme, de méthode unique ! Pas de recette !

6. Approches « région » - Basées sur l'homogénéité de caractéristiques localisées spatialement et calculées sur les niveaux de gris - Homogénéité : variation à l'intérieur d'une région < variation entre 2 régions - Robustes aux bruits mais mauvaise localisation spatiale

7. Approches « frontière » - Basées sur l'information de gradient pour localiser les frontières des régions - 2 approches : détection et fermeture de contours ou techniques de contours déformables - Sensibles aux bruits et aux contours mal définis, elles offrent une bonne localisation spatiale

8. Vue d'ensemble Techniques de segmentation Seuillage adaptatif Approches frontière Template Matching Approches région Méthodes variationnelles (contours actifs) Méthodes dérivatives Détection de contours + Fermeture des contours Approches structurales Méthodes Markoviennes Texture Analyse et classification

9. II. Approche fonctionnelle Initialisation Mesures Image Critères Évolution Carte des régions Arrêt Modification bloc élémentaire

10. Bloc 2 Bloc 1 Bloc k N2 Nk N1 Approche fonctionnelle et méthodes complexes

11. Bloc Mesures - Réalise les mesures nécessaires pour évaluer l'homogénéité des régions - Des mesures images : moyenne, variance, entropie, gradient, texture ... - spatiales - fréquentielles - Des mesures régions : forme, surface, périmètre ...

12. Choix des mesures : un problème compliqué  Texture Seuillage Détection de contour !

13. Texture = information visuelle qualitative: Grossière, fine, tachetée, marbrée, régulière, périodique... Région homogène: Assemblage plus ou moins régulier de primitives plus ou moins similaires. Texture microscopique: Aspect chaotique mais régulier, primitive de base réduite. Texture macroscopique: primitive de base évidente, assemblage régulier. ?

14. Approches pour l'analyse de Texture Structurelles: recherche de primitives de base bien définies et de leur organisation (règles de placement) Méthodes peu utilisées Stochastiques: primitives mal définies et organisation +/- aléatoire. Principe: évaluation d’un paramètre dans une petite région (fenêtre de taille dépendant de la texture (!) ): Analyse fréquentielle, statistiques, comptage d’événements, corrélation,.... Pas de modèle général de texture Nombreuses méthodes ad-hoc.

15. Trouver les bons paramètres  Le choix et le réglage des mesures est fondamental en segmentation 4x4 8x8 16x16 32x32

16. Bloc Critères - Fusionne les mesures en un seul critère qui sera utilisé pour évaluer le besoin de modification - Introduction d'hyper-paramètres conditionnant le résultat de la segmentation

17. Bloc Evolution - Estime à partir des critères le besoin d'évolution des régions - Evolution par seuillage : binaire ou progressive - Evolution par dérivée : variation du critère entre 2 itérations

18. Bloc Modification - Modifie la carte des régions - N constant : seuillage, contour actif, ... - N+ : split - N- : merge - Stratégies diverses ... et représentation des régions adaptée - déplacement de point - étiquetage - maillage - Considéré comme le cœur des méthodes de segmentation

19. Bloc Arrêt - Décide l'arrêt des itération - Par défaut, arrêt quand la carte de segmentation ne bouge plus - Autres possibilités : manuel, nombre d'itération, nombre de points modifiés ...

20. III. Quelques méthodes de segmentation III.1 Segmentation par seuillage adaptatif III.2 Segmentation par détection / fermeture de contours III.3 Segmentation par contours actifs III.4 Segmentation par Split / Merge III.5 Segmentation par Template Matching

21. III.1 Segmentation par seuillage adaptatif • Détection de vallées, en prenant le minimum de l’histogramme situé entre les 2 pics • Optimisation du seuil S par modélisation Gaussienne p1(x) et p2(x) et en minimisant l’expression basée sur les fonctions de répartition :

22. Exemple : Méthode Fisher Objectif : Trouver le seuil S qui minimise la somme des moments centrés d’ordre 2 (somme des Variances) des 2 classes h(x) : histogramme de l’image Centre de gravité G d’une classe Variance Var d’une classe

23. Trouver S qui minimise la somme des variances : En simplifiant les termes en carrés, cela revient à maximiser la fonctionnelle J(S) : Le problème de seuillage ou de partitionnement revient à chercher S dans {0,255} qui maximise J(S)

24. Détection de contour Extraction de contour Fermeture de contour III.2 Segmentation par détection / fermeture de contours La détection de contour est suivie d’une localisation de contour et de la recherche d’un ensemble connexe de points

25. Détection de contour • Un contour caractérise la frontière d’une région • Un contour est défini par une variation «rapide» de caractéristique Contour Contour ? Contour ?

26. f(x,y) r q x qg Définition continue d'un contour Mesure du gradient de f(x,y) dans la direction r La direction q du contour est obtenue pour :

28. Applications aux images numériques • Pour chaque pixel (i,j), on mesure le gradient dans deux directions orthogonales : Dx Dy • Calcul de l’amplitude du gradient • Calcul de la direction du gradient Dx H1 Carte d’amplitude M q f(i,j) Dy H2 Carte de direction

29. Contour détecté si M dépasse une certaine valeur (seuil). Carte de direction utilisée pour «suivre» les contours. Exemples d’opérateurs H1 H2 Roberts Prewitt Sobel

30. (inhomogénéité du contour) Amplitude blanc=p/4 ... gris = p +p/4 128x128 Exemple de détection de contours « Roberts » Zoom Direction

31. H1 Amplitude Direction H2

32. Éventail de méthodes de détection de contour : • Dérivation au premier ordre • Prewitt, Sobel, Roberts, Kirsh, Compass, dérivateurs... • Dérivation au second ordre • Laplacien, Marr et Hildreth,... • Filtrage optimal • Canny-Deriche, Shen • Modélisation des contours • Hueckel, Haralick • Morphologie mathématique • gradient morphologique, ligne de partage des eaux... Caractéristiques: Complexité, précision de localisation, sensibilité au bruit, création de faux contours

33. direction de G contour G1 G M G2 Extraction des contours • Un contour = ligne de crête dans l’image de la norme du gradient (IG): • des niveaux de gris toujours élevés • de faibles dénivelés le long de ces lignes • de forts dénivelés dans les autres directions • ==> les points de contour = maxima locaux de IG Principe :comparer le gradient G en un point M avec les gradients G1 et G2 des deux voisins pris dans la direction du gradient si G>G1 et G>G2, alors M est un maximum local

34. S0 contour de l’image A R arc d’un chemin solution S Sf Fermeture des contours Hypothèse : l’image de la norme de gradient est disponible et les extrémités des contours à fermer sont connues • Trouver le chemin du coût minimum : • S qui minimise • S qui minimise la distance entre S0 et Sf

35. III.3 Segmentation par contours actifs • Un contour actif : courbe fermée ou non, initialisée à proximité du contour recherché qu’on déforme par itérations successives afin de converger vers le contour réel • L’évolution du contour actif est régie par une minimisation d’énergie • L’évolution s’arrête par un critère d’arrêt qui correspond à une condition de stabilité La convergence traduit une adéquation entre la forme finale de la courbe C et la fonction image au voisinage de la courbe

36. Contours actifs : définitions • Le contour actif est assimilé à une courbe C : • s est l‘abscisse curviligne, v(s,t) est un point courant de C, a et b sont les extrémités de C, l’évolution temporelle se fait entre 0 et T • l’énergie E(C) est mesurée à chaque pas t • E(C) intègre : • les caractéristiques intrinsèques de la courbe C • les caractéristiques de l’image I au voisinage de C • l’interaction entre I et C

37. Eint : - lié à la rigidité (tension), il agit sur la longueur - lié à l'élasticité (flexion), il agit sur la courbure • Eext : - introduit des contraintes opérateur (points de contrôle ...) • Eimage : - introduit des caractéristiques images (gradient) Contours actifs : Energie du contour E(C)

38. Évolution temporelle du contour actif • Calculer l'énergie pour chaque point • Faire la liste des points par ordre d’énergie décroissante • Faire évoluer le point avec l'énergie maximale • Calculer l'énergie nouvelle pour ce point et organiser la liste • si la distance entre deux points est trop grande, ajouter un point entre les deux

39. Problèmes liés aux contours actif • Contour initial sélectionné manuellement • Contour initial relativement proche du contour final • Modèle non utilisable en présence de texture • Modèle perturbé en présence de bruit • Minimisation d'énergie demande l’inversion de matrices de grande taille à chaque itération • calcul très long

40. III.4 Segmentation par Split / Merge • Méthodes structurales visant à regrouper des ensembles de points ou de régions selon des critères d’homogénéité • Ces méthodes garantissent la connexité des régions • Les stratégies utilisées peuvent être : • ascendante : mécanisme de croissance (MERGE) de régions : du niveau élémentaire (ex : pixel) aux grandes régions • descendante : mécanisme de division (SPLIT) de régions : du niveau haut (ex : image) vers la décomposition en petites régions

41. Méthode ascendante : Croissance de régions • Croissance conduite selon deux critères : • homogénéité pour une région R formée de N pixels • connexité (adjacence) du pixel à intégrer dans R • Exemples de contrainte d’homogénéité : • Variance Var(R) inférieure à un seuil • Borner le nombre de pixels M dont les NG se situent hors d’un intervalle [Moy(R)-EcType(R),Moy(R)+EcType(R)] • Pixel S intégré à R si • ses caractéristiques (NG, couleur, texture centrée sur ce point,..) sont proches de celles de R • S est connexe à R

42. Méthodes descendantes : division de régions • Les méthodes descendantes divisent l’image ou une partie d’image en régions en utilisant des partitions élémentaires connues comme le quadtree • Le maillage peut être • régulier ou irrégulier • de type rectangulaire, triangulaire ou polygonal quelconque • Division d’une région R en sous-régions si R ne remplit pas la contrainte d’homogénéité fixée

43. III.5. Segmentation par Template Matching • La méthode Template Matching est basée sur la recherche de la position spatiale d’un motif (objet) M connu dans une image I • La recherche (ou le collage) se fait par le calcul de l’intercorrélation bidimensionnelle C(p,q) entre I et M : • La position du motif est donnée par les maxima de la fonction d’intercorrélation CIM

44. Motif Image originale Image d’intercorrélation Image d’intercorrélation seuillée