Algorithmes robustes pour l’imagerie en radioastronomie Yassine Mhiri encadré par Pascal Larzabal, Mohammed Nabil El Korso et Arnaud Breloy Jeudi 9 février 2023 - Séminaire S3 - L2S

Qu’est ce que la radioastronomie ? 8 L’observation du ciel dans le domaine des ondes radio crédit: NASA, STScI Séminaire S3 1 9 Février 2023 Séminaire S3 1 9 Février 2023

Qu’est ce que la radioastronomie ? Credit: Y. Beletsky (LCO)/ESO v Antenne parabolique : somme cohérente du champs électromagnétiquT v La résolution angulaire dépend du diamètre de l’antenne Séminaire S3 2 9 Février 2023 Séminaire S3 2 9 Février 2023

Qu’est ce que la radioastronomie ? B radiotélescope VLA situé au nouveau mexique (USA) - Credit: NRAO/AUI/NSF ‘ Radio interféromètre : réseau d’antennes qui utilise les corrélations entre les différents capteurs pour reconstruire une image du cielV ‘ La résolution angulaire est inversement proportionnelle à la plus longue distance du réseau. Séminaire S3 3 9 Février 2023 Séminaire S3 3 9 Février 2023

Mon parcourA ) Diplômé de l’ENSEEIHT en électronique et traitement du signaD ) Ingénieur algorithmie chez Phasics pendant 1 an et demi# ) Doctorant en 3ème année affilié au laboratoire SATIE à l’ENS Paris-Saclay Mon sujet de thèse : Traitement statistique des signaux observés par les futurs grands radiotélescopes Encadrement : Pascal Larzabal, Mohammed-Nabil El Korso et Arnaud Breloy Mes travauxV ) Calibration des radio-interféromètres en présence d’interférences de radiofréquences# ) Algorithmes robustes pour l’imagerie en radiointerféromètrip ) 1 publication de revue et 3 publications en conférences Mon parcours Séminaire S3 4 9 Février 2023 Séminaire S3 4 9 Février 2023

Principe de l’interférométrie Imagerie robuste par maximum de vraisemblance Apprentissage informé pour l’imagerie interférométrique Outline

Principe de l’interférométrie

Principe de l’interféromètrie Modèle de mesure F Déphasage temporeV F Dépend de la géométrie du réseau F Nombre fini de sources ponctuelles position de l’antenne longueur d’onde angle d’arrivée Séminaire S3 5 9 Février 2023 Séminaire S3 5 9 Février 2023

Principe de l’interféromètrie Modèle de mesure ligne de base ` Le correlateur combine les signaux et produit des visibilités (corrélationsd ` Nombre fini de sources ponctuelles puissance de la source visibilité sans bruit pour le couple d’antenne (p,q) distance entre les antennes (ligne de base) Séminaire S3 6 9 Février 2023 Séminaire S3 6 9 Février 2023

Principe de l’interféromètrie Modèle de mesure Y Modèle discret : Chaque pixel correspond à une direction du cieA Y Champs de vue étroit : Voûte céleste plane Image du ciel vecteur de mesure sans bruit cosinus directeur distance entre les antennes Le radio interféromètre échantillonne le plan de Fourier Séminaire S3 7 9 Février 2023 Séminaire S3 7 9 Février 2023

Principe de l’interféromètrie Le plan UV source : Google Earth Antennes du Very Large Array (VLA) telescope situé dans le désert du Nouveau Mexique (USA) source : Données du NRAO Plan UV = Plan de Fourier 2D ‘ Echantillonnage du plan de Fourier 2Dˆ ‘ Chaque point correspond à un couple d’antennes Séminaire S3 8 9 Février 2023 Séminaire S3 8 9 Février 2023

Principe de l’interféromètrie Imagerie par synthèse de Fourier Séminaire S3 9 9 Février 2023 Séminaire S3 9 9 Février 2023 Ciel à reconstruire Plan de Fourier 2D Imagerie par synthèse de Fourie“ ˆ Transformée de Fourier inverse des visibilités mesuréei ˆ Image du ciel convoluée à la PSF de l’interféromètre PSF de l’interféromètre image du ciel Fourier2D de l’image Plan uv

Principe de l’interféromètrie état de l’art L’algorithme CLEAN [Högbom1974„ f Modèle de sources ponctuellet f Déconvolution à partir de la dirty image et de la PSR f Limitation : Imagerie de sources étendue5 f Variantes modernes de CLEAN plus performantes [Offringa2017, Cornwell2008]  Détection du pic dans l’image résiduell‡ „ Soustraction de l’impact de la source détectée à travers la PS{ r Ajout de la source ponctuelle dans le modèle estimŽ z Convolution du modèle de sources ponctuelles avec une PSF Séminaire S3 10 9 Février 2023 Séminaire S3 10 9 Février 2023

Principe de l’interféromètrie état de l’art Régularisation parcimonieuse [Wiaux09a ` Résolution par des algorithmes proximau8 ` Choix de la régularisation @ ` norme L1 [Wiaux2009] : peu de coefficients non nuls dans l’imagV ` SARA [Carrillo2012] : représentation parcimonieuse dans une base d’ondelettes fitting term regularization term visibilités mesurées modèle Séminaire S3 11 9 Février 2023 Séminaire S3 11 9 Février 2023

Principe de l’interféromètrie Imagerie par maximum de vraisemblance Faire une image par maximum de vraisemblance régularisé fitting term regularization term v Terme d’attache aux données Gaussienneo v Terme de régularisation correspond à l’a priori sur les sources observées Séminaire S3 12 9 Février 2023 Séminaire S3 12 9 Février 2023

2. Imagerie robuste par maximum de vraisemblance

Bruits hétérogènes Perturbations aléatoires Les interférences de radiofréquence s Ondes radio interférentes d’origines humaineu s Modélisées comme des sources additionnelleu s Facilement identifiables si de forte puissancd s Impact significatif même si de faible puissance Séminaire S3 13 9 Février 2023 Séminaire S3 13 9 Février 2023

Modélisation de bruits hétérogènes Les Gaussiennes composées Les Gaussiennes composées s’écrivent comme le produit de 2 composantes paramètre de texture aléatoire speckle : bruit Gaussien ‘ Distributions à queues lourdes‰ ‘ Modélisent la présence de bruits non Gaussieni ‘ Exemple : la t-distribution, la K-distribution Séminaire S3 14 9 Février 2023 Séminaire S3 14 9 Février 2023

Imagerie par Maximum de Vraisemblance Modèle de Mesur6 A Chaque visibilité est affectée par un bruit gaussien de variance aléatoire Vraisemblance logarithmique à maximiser Résolution du problème du maximum de vraisemblance par un algorithme EM Séminaire S3 15 9 Février 2023 Séminaire S3 15 9 Février 2023

L’Agorithme d’Esperance Maximisation Maximisation d’une borne inférieure de la vraisemblance à chaque itératiop E La borne inférieure dépend de l’estimé couranteb E Converge vers un maximum local de la vraisemblanc5 E Borne inférieure définie à partir d’un jeu de données complètes Etape E : calcul de l’espérance de la vraisemblance des données complètes données complètes données incomplètes (observées) Etape M : Maximisation de la borne calculée Séminaire S3 16 9 Février 2023 Séminaire S3 16 9 Février 2023

Algorithme EM pour l’imagerie Robuste Choix d’un jeu de données complèteF D La texture est considérée comme donnée latente L’Algorithme 1 : EM Imager Etape E Etape M D Etape M équivalente à un problème d’imagerie sur des visibilités pondérées o D Implémentation simple à partir de méthodes existantes Séminaire S3 17 9 Février 2023 Séminaire S3 17 9 Février 2023

Algorithme EM pour l’imagerie Robuste Résolution de l’étape de maximisation par un ISTA Cas d’une t-distribution de degré de liberté ν Régularisation parcimonieuse : Résolution de l’étape M par l’algorithme ISTf d Converge vers la solution de l’étape M Pour k=1:K Séminaire S3 18 9 Février 2023 Séminaire S3 18 9 Février 2023 descente de gradient seuillage doux :

Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT Evaluation du modèlea f Transformée de Fourier discrète sur une grille non uniforme : O(KN) f Transformée de Fourier discrète sur grille uniforme par FFT : O(K+Nlog(N)) FFT sur grille uniforme Image du ciel Interpolation sur coordonnées continues Séminaire S3 19 9 Février 2023 Séminaire S3 19 9 Février 2023

Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT Choix d’un jeu de données complètes : d Les paramètres de textur€ d La transformée de Fourier complète bruitée sur une grille uniforme : d Maximisation dans l’espace de Fourier uniforme e Séminaire S3 20 9 Février 2023 Séminaire S3 20 9 Février 2023

Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT L’Algorithme 2 : FFT - EM Imager espérance de la transformée de Fourier de l’image du ciel sur une grille uniforme Etape E Etape M Séminaire S3 21 9 Février 2023 Séminaire S3 21 9 Février 2023

Algorithme EM pour l’imagerie Robuste Régularisation parcimonieuse : EM IMAGER FFT EM IMAGER Résolution de l’étape M par l’algorithme ISTA EM IMAGER O(KN) FFT EM IMAGER O(Nlog(N)) algorithme de FFT Séminaire S3 22 9 Février 2023 Séminaire S3 22 9 Février 2023 produit matriciel

Algorithme EM pour l’imagerie Robuste Résultats numériques q Visibilités générées à partir d’un modèle de ciec q Bruit t-distribué ajoutƒ q 2 implémentations de l’EM robuste I q EM ISTA : Étape M par un ISTA q EM CLEAN : Étape M par un CLEA5 q FFT EM : Étape M par un ISTA q Comparaison avec un CLEAN Modèle de ciel Séminaire S3 23 9 Février 2023 Séminaire S3 23 9 Février 2023

Algorithme EM pour l’imagerie robuste Résultats numériques s 100 répétitions de Monte Carli s Métriques : SSIM, SNR, Cross-Corrélation normalisée Séminaire S3 24 9 Février 2023 Séminaire S3 24 9 Février 2023

Algorithme EM pour l’imagerie robuste Résultats numériques Comparaison des temps d’exécution en fonction du nombre de visibilitéS 7 EM IST4 7 FFT EM ISTA Séminaire S3 25 9 Février 2023 Séminaire S3 25 9 Février 2023

3. Apprentissage informé pour l’imagerie interférométrique

Principe du dépliement neuronal Traitement du signal classique @ S Modèle physique@ S Algorithme itératiI S Résultats interprétable( S Sensibilité aux erreurs de modèle Apprentissage profone S Modèle complexe et flexibl… S Résultats non interprétables (boite noire— S Performances optimales sur les distributions d’entraînement et de test Dépliement neuronal Séminaire S3 26 9 Février 2023 Séminaire S3 26 9 Février 2023

Principe du dépliement neuronal 9 Un algorithme d’optimisation itératif peut s’interpréter comme un réseau de neurones récurent (RNN) Algorithme itératif Dépliement neuronal … 9 Apprentissage des poids et hyperparamètres— 9 Flexibilité additionnelle Algorithme déplié Séminaire S3 27 9 Février 2023 Séminaire S3 27 9 Février 2023

Imagerie par dépliement neuronal Algorithme EM :3 H MSTEP : Iterative Soft Threshold Algorithm (ISTA H Hyperparmètre : γ, alpha Inputs: x(0), niteration, H, y, γ, α Algorithm: For m=1:niteration Représentation dépliée d’une itération x(m) y H HH γ x(m+1) Séminaire S3 28 9 Février 2023 Séminaire S3 28 9 Février 2023

Imagerie par dépliement neuronal Couches linéaires : le modèl " Représente le modèle et son gradient x(m) y H HH γ x(m+1) Séminaire S3 29 9 Février 2023 Séminaire S3 29 9 Février 2023

Imagerie par dépliement neuronal Couche “robuste2 @ Calcul de l’espérance approximée par un réseau de neuroneF @ Flexibilité par rapport à l’algorithme original |y - Hx(m)|2 ω(m) Linear (nvis x 2nvis ) ReLU ReLU Sigmoid Linear (2nvis x 2nvis ) Linear (2nvis x nvis ) x(m) y H HH γ x(m+1) Séminaire S3 30 9 Février 2023 Séminaire S3 30 9 Février 2023

Imagerie par dépliement neuronal Seuillage douA 4 Le seuillage doux est implémenté par une activation ReLU dépendant du paramètre de seuil x(m) y H HH γ x(m+1) Séminaire S3 31 9 Février 2023 Séminaire S3 31 9 Février 2023

Imagerie par dépliement neuronal Architecture Globale paramètres à apprendre : H, Θ, α ReLU(α) x(m) y Linear(H) Robust layer(Θ) Linear(HH) x(m+1) Séminaire S3 32 9 Février 2023 Séminaire S3 32 9 Février 2023

Apprentissage Apprentissage supervisé @ V 1000 epochA V Optimiser : Adam, learning rate à 0.0005 V Fonction coût : MSE Séminaire S3 33 9 Février 2023 Séminaire S3 33 9 Février 2023

Jeux de données d’entraînement Modèle de cieC ! Les galaxies et objets stellaires observés peuvent être modélisés par des ellipsoïdes Gaussiennes [Connor2022 ! L’apprentissage se fait sur des modèles de ciel simulés par des ellipsoïdes Gaussiennes Cyril Tasse, Observatoire de Paris - PSL et l’équipe survey LOFAR Un amas de galaxies vu par le LOFAR. Séminaire S3 34 9 Février 2023 Séminaire S3 34 9 Février 2023

Jeux de données d’entraînement Modèle de ciel simulé 7 8 2 sources Gaussiennes espacées de 10 pixelsG 8 La taille de la Gaussienne et la puissance de la source varient Visibilités sans bruits générées à partir des modèles de ciel : Séminaire S3 35 9 Février 2023 Séminaire S3 35 9 Février 2023

Jeux de données d’entraînement Dataset A. Bruits hétérogène7 P Bruit additif distribué selon une K- distribution est ajouté v Texture distribuée selon une loi gamma Séminaire S3 36 9 Février 2023 Séminaire S3 36 9 Février 2023

Résultats numériques Dataset A. Bruits hétérogènes Méthode EM appris EM ISTA SNR 14.4 2.34 SSIM 0.81 0.47 Cross Correlation 0.98 0.71 Ciel à reconstruire EM + ISTA EM appris Séminaire S3 37 9 Février 2023 Séminaire S3 37 9 Février 2023

Jeux de données d’entraînement Dataset B. Simulation d’erreur de calibratio3 a Erreur de calibration simulée par un bruit multiplicatif I a Bruit additif Gaussien est ajouté Séminaire S3 38 9 Février 2023 Séminaire S3 38 9 Février 2023

Résultats numériques Dataset B. Simulation d’erreur de calibration Méthode EM appris EM ISTA SNR 6.81 1.82 SSIM 0.64 0.60 Cross Correlation 0.89 0.86 Ciel à reconstruire EM + ISTA EM appris Séminaire S3 39 9 Février 2023 Séminaire S3 39 9 Février 2023

Conclusion Conclusio@ W 2 Algorithmes d’imagerie robuste à la présence d’interférence W Bruit issu d’un composé GaussienS W Accélération de l’algorithme par la structure du modèle de radio interférométrieS W Réseau de neurones informé dérivé du modèl$ W Flexibilité du modèl$ W Interprétabilité du réseau Perspective  Tirer partie de l’algorithme de FFT et introduire des couches de convolutio@  Images plus complexe  Comparaison avec méthodes d’apprentissage Séminaire S3 40 9 Février 2023 Séminaire S3 40 9 Février 2023

Merci de votre attention [email protected]