Séminaire IMAGE : « Régularisation spatiale par variation totale sur graphe dans une architecture d’apprentissage profond » (X. Hoarau)

Titre : 

Régularisation spatiale par variation totale sur graphe dans une architecture d’apprentissage profond

Orateur : 

Xavier Hoarau

Résumé :

Notre objectif est d’intégrer un algorithme réalisant une régularisation spatiale par variation totale
à l’intérieur d’une architecture d’apprentissage profond. En effet, il existe des applications ou le résultat
attendu est régulier spatialement, par exemple, la segmentation sémantique d’image est composée en
sortie de région constante (chaque objet étant représenté par un ensemble de pixels voisin). La
régularisation par variation totale a donc pour objectif de minimiser la variation du résultat entre chaque
pixel voisin dans une image, ou nœud dans un graphe. En plus d’intégrer cet algorithme à l’architecture,
nous espérons pouvoir apprendre ses hyperparamètres, dans notre cas nous travaillons sur un graphe et
les hyperparamètre sont les poids des arêtes de ce graphe.
Nous avons donc commencé par travailler sur des algorithmes de segmentation sémantique, en
particulier nous avons commencé par un réseau de Convolution encodeur-décodeur, similaire au Seg_net
ou U_net. Jusqu’alors la régularisation par variation totale ajoutée à ce type de système se faisait soit par
un post traitement ou dans la Loss par un terme de régularisation.
Notre objectif est donc de déplacer la régularisation en la faisant au cours de l’inférence. Nous
avons choisi le solveur Cut_Pursuit développé par G. Obozinski, L. Landrieu and H. Raguet, il permet un
calcul rapide et donne directement un résultat sous forme de composante connexe constante. De plus, le
calcul du gradient de ce type de fonction est possible ce qui rend possible la back propagation et enfin il est
fait pour travailler sur un graphe quelconque ce qui permettra ensuite de l’adapter à d’autres type de
données.
Nous étudions en premier exemple des images satellitaires et des données synthétiques, en
cherchant dans quelle situation notre solution donne des résultats intéressants, c’est-à-dire des structures
dans la répartition des poids pour ensuite chercher les hyperparamètres donnant les meilleurs résultats en
fonction de la situation.
Une fois cet exemple étudié nous voulons l’étendre à d’autres type de donnée, en 3D par exemple,
ou à d’autres type de tache.