Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Yassine Mhiri

S³ Seminar
February 09, 2023

Yassine Mhiri

(SATIE, L2S)

Title — A Robust algorithm for radio interferometric imaging

Abstract — Radio interferometers produce images of the sky in the radio domain bringing new insights into various scientific domains such as solar monitoring, planetology, and astrophysics. A new generation of large-scale radio interferometers are designed with the promise to improve further the resolution and sensitivity of radio astronomical images. Nevertheless, these technological advances bring several signal processing challenges to exploit the scientific potential of such instruments fully.

Amongst them image synthesis can be expressed as a signal reconstruction problem from incomplete Fourier measurements and leads to an ill-posed inverse problem. The particularity of radio interferometric data lie in the coverage of the Fourier space (UV-coverage) that depends on the sensors coordinates as well as the observation time. In particular, large-scale radio interferometers will improve the UV coverage, increasing the amount of data to process. Most imaging algorithm can often be expressed as a regularized convex optimization algorithm that considers an L2 norm as fitting term, implicitely assuming a Gaussian noise on the measurements. However, additive perturbations of radio-interferometric data cannot be effectively modeled by a Gaussian noise.

In this talk, we’ll explore the basics of radio interferometric imaging and present a robust imaging algorithm. We will consider compound Gaussians to model the presence of outliers in the data, and derive an expectation-maximization algorithm to compute image estimates from the measured visibilities. Finally, numerical results on realistic data that illustrate the performance of the proposed algorithm will be shown.

A Robust EM Algorithm for Radio Interferometric Imaging in The Presence of Outliers. Yassine Mhiri, Pascal Larzabal, Mohammed-Nabil El Korso, Arnaud Breloy SiPS22, Nov 2022, Rennes, France.

Biography — I am a Phd Student in statistical signal processing applied to radioastronomy, supervised by Pascal Larzabal, Mohammed Nabil EL Korso and Arnaud Breloy within the signal processing group (MOSS) of the SATIE laboratory at Paris-Saclay University. Before that, I was a research engineer at Phasics where i helped conceive and develop algorithmic solutions for wavefront sensor analysis.

My current research interests lie in robust signal processing, statistical learning, structured covariance matrix estimation, interferometry and sensor array processing.

S³ Seminar

February 09, 2023
Tweet

More Decks by S³ Seminar

Other Decks in Research

Transcript

  1. Algorithmes robustes pour
    l’imagerie en radioastronomie
    Yassine Mhiri

    encadré par Pascal Larzabal, Mohammed Nabil El Korso et Arnaud Breloy
    Jeudi 9 février 2023 - Séminaire S3 - L2S

    View full-size slide

  2. Qu’est ce que la radioastronomie ?
    8 L’observation du ciel dans le domaine des ondes radio
    crédit: NASA, STScI
    Séminaire S3 1 9 Février 2023
    Séminaire S3 1 9 Février 2023

    View full-size slide

  3. Qu’est ce que la radioastronomie ?
    Credit: Y. Beletsky (LCO)/ESO
    v Antenne parabolique : somme cohérente du champs électromagnétiquT
    v La résolution angulaire dépend du diamètre de l’antenne
    Séminaire S3 2 9 Février 2023
    Séminaire S3 2 9 Février 2023

    View full-size slide

  4. Qu’est ce que la radioastronomie ?
    B
    radiotélescope VLA situé au nouveau mexique (USA) - Credit: NRAO/AUI/NSF
    ‘ Radio interféromètre : réseau d’antennes qui utilise les corrélations entre
    les différents capteurs pour reconstruire une image du cielV
    ‘ La résolution angulaire est inversement proportionnelle à la plus longue
    distance du réseau.
    Séminaire S3 3 9 Février 2023
    Séminaire S3 3 9 Février 2023

    View full-size slide

  5. Mon parcourA
    ) Diplômé de l’ENSEEIHT en électronique et traitement du signaD
    ) Ingénieur algorithmie chez Phasics pendant 1 an et demi#
    ) Doctorant en 3ème année affilié au laboratoire SATIE à l’ENS Paris-Saclay
    Mon sujet de thèse :

    Traitement statistique des signaux observés par les futurs grands radiotélescopes

    Encadrement : Pascal Larzabal, Mohammed-Nabil El Korso et Arnaud Breloy

    Mes travauxV
    ) Calibration des radio-interféromètres en présence d’interférences de radiofréquences#
    ) Algorithmes robustes pour l’imagerie en radiointerféromètrip
    ) 1 publication de revue et 3 publications en conférences
    Mon parcours
    Séminaire S3 4 9 Février 2023
    Séminaire S3 4 9 Février 2023

    View full-size slide

  6. Principe de l’interférométrie
    Imagerie robuste par maximum de vraisemblance
    Apprentissage informé pour l’imagerie interférométrique
    Outline

    View full-size slide

  7. Principe de l’interférométrie

    View full-size slide

  8. Principe de l’interféromètrie
    Modèle de mesure
    F Déphasage temporeV
    F Dépend de la géométrie du réseau
    F Nombre fini de sources ponctuelles
    position de l’antenne
    longueur
    d’onde
    angle d’arrivée
    Séminaire S3 5 9 Février 2023
    Séminaire S3 5 9 Février 2023

    View full-size slide

  9. Principe de l’interféromètrie
    Modèle de mesure
    ligne de base
    ` Le correlateur combine les signaux et
    produit des visibilités (corrélationsd
    ` Nombre fini de sources ponctuelles
    puissance de
    la source
    visibilité sans
    bruit pour le
    couple d’antenne
    (p,q)
    distance entre
    les antennes
    (ligne de base)
    Séminaire S3 6 9 Février 2023
    Séminaire S3 6 9 Février 2023

    View full-size slide

  10. Principe de l’interféromètrie
    Modèle de mesure
    Y Modèle discret : Chaque pixel correspond à une direction du cieA
    Y Champs de vue étroit : Voûte céleste plane
    Image du ciel
    vecteur de mesure sans bruit
    cosinus directeur
    distance

    entre les antennes
    Le radio interféromètre échantillonne le plan de Fourier
    Séminaire S3 7 9 Février 2023
    Séminaire S3 7 9 Février 2023

    View full-size slide

  11. Principe de l’interféromètrie
    Le plan UV
    source : Google Earth
    Antennes du Very Large Array
    (VLA) telescope situé dans le désert
    du Nouveau Mexique (USA)
    source : Données du NRAO
    Plan UV = Plan de Fourier 2D
    ‘ Echantillonnage du plan de
    Fourier 2Dˆ
    ‘ Chaque point correspond à un
    couple d’antennes
    Séminaire S3 8 9 Février 2023
    Séminaire S3 8 9 Février 2023

    View full-size slide

  12. Principe de l’interféromètrie
    Imagerie par synthèse de Fourier
    Séminaire S3 9 9 Février 2023
    Séminaire S3 9 9 Février 2023
    Ciel à reconstruire Plan de Fourier 2D
    Imagerie par synthèse de Fourie“
    ˆ Transformée de Fourier inverse des visibilités mesuréei
    ˆ Image du ciel convoluée à la PSF de l’interféromètre
    PSF de l’interféromètre
    image du ciel
    Fourier2D de
    l’image
    Plan uv

    View full-size slide

  13. Principe de l’interféromètrie
    état de l’art
    L’algorithme CLEAN [Högbom1974„
    f Modèle de sources ponctuellet
    f Déconvolution à partir de la dirty image et de la PSR
    f Limitation : Imagerie de sources étendue5
    f Variantes modernes de CLEAN plus performantes [Offringa2017, Cornwell2008]
     Détection du pic dans l’image résiduell‡
    „ Soustraction de l’impact de la source détectée à travers la PS{
    r Ajout de la source ponctuelle dans le modèle estimŽ
    z Convolution du modèle de sources ponctuelles avec une PSF
    Séminaire S3 10 9 Février 2023
    Séminaire S3 10 9 Février 2023

    View full-size slide

  14. Principe de l’interféromètrie
    état de l’art
    Régularisation parcimonieuse [Wiaux09a
    ` Résolution par des algorithmes proximau8
    ` Choix de la régularisation @
    ` norme L1 [Wiaux2009] : peu de coefficients non nuls dans l’imagV
    ` SARA [Carrillo2012] : représentation parcimonieuse dans une base d’ondelettes
    fitting term regularization term
    visibilités mesurées modèle
    Séminaire S3 11 9 Février 2023
    Séminaire S3 11 9 Février 2023

    View full-size slide

  15. Principe de l’interféromètrie
    Imagerie par maximum de vraisemblance
    Faire une image par maximum de vraisemblance régularisé
    fitting term regularization term
    v Terme d’attache aux données Gaussienneo
    v Terme de régularisation correspond à l’a priori sur les sources
    observées
    Séminaire S3 12 9 Février 2023
    Séminaire S3 12 9 Février 2023

    View full-size slide

  16. 2. Imagerie robuste par maximum
    de vraisemblance

    View full-size slide

  17. Bruits hétérogènes
    Perturbations aléatoires
    Les interférences de radiofréquence
    s Ondes radio interférentes d’origines humaineu
    s Modélisées comme des sources additionnelleu
    s Facilement identifiables si de forte puissancd
    s Impact significatif même si de faible puissance
    Séminaire S3 13 9 Février 2023
    Séminaire S3 13 9 Février 2023

    View full-size slide

  18. Modélisation de bruits hétérogènes
    Les Gaussiennes composées
    Les Gaussiennes composées s’écrivent comme le produit de 2 composantes
    paramètre de
    texture aléatoire
    speckle : bruit Gaussien
    ‘ Distributions à queues lourdes‰
    ‘ Modélisent la présence de bruits non Gaussieni
    ‘ Exemple : la t-distribution, la K-distribution
    Séminaire S3 14 9 Février 2023
    Séminaire S3 14 9 Février 2023

    View full-size slide

  19. Imagerie par Maximum de Vraisemblance
    Modèle de Mesur6
    A Chaque visibilité est affectée par un bruit gaussien de variance aléatoire
    Vraisemblance logarithmique à maximiser
    Résolution du problème du maximum de vraisemblance par un algorithme EM
    Séminaire S3 15 9 Février 2023
    Séminaire S3 15 9 Février 2023

    View full-size slide

  20. L’Agorithme d’Esperance Maximisation
    Maximisation d’une borne inférieure de la vraisemblance à chaque itératiop
    E La borne inférieure dépend de l’estimé couranteb
    E Converge vers un maximum local de la vraisemblanc5
    E Borne inférieure définie à partir d’un jeu de données complètes
    Etape E : calcul de l’espérance de la vraisemblance des données complètes
    données complètes
    données incomplètes
    (observées)
    Etape M : Maximisation de la borne calculée
    Séminaire S3 16 9 Février 2023
    Séminaire S3 16 9 Février 2023

    View full-size slide

  21. Algorithme EM pour l’imagerie Robuste
    Choix d’un jeu de données complèteF
    D La texture est considérée comme donnée latente
    L’Algorithme 1 : EM Imager
    Etape E
    Etape M
    D Etape M équivalente à un problème d’imagerie sur des visibilités pondérées o
    D Implémentation simple à partir de méthodes existantes
    Séminaire S3 17 9 Février 2023
    Séminaire S3 17 9 Février 2023

    View full-size slide

  22. Algorithme EM pour l’imagerie Robuste
    Résolution de l’étape de maximisation par un ISTA
    Cas d’une t-distribution de degré de liberté ν
    Régularisation parcimonieuse :
    Résolution de l’étape M par l’algorithme ISTf
    d Converge vers la solution de l’étape M
    Pour k=1:K
    Séminaire S3 18 9 Février 2023
    Séminaire S3 18 9 Février 2023
    descente de gradient
    seuillage doux :

    View full-size slide

  23. Algorithme EM pour l’imagerie Robuste
    Tirer partie de l’algorithme de FFT
    Evaluation du modèlea
    f Transformée de Fourier discrète sur une grille non uniforme : O(KN)
    f Transformée de Fourier discrète sur grille uniforme par FFT : O(K+Nlog(N))
    FFT sur grille uniforme
    Image du ciel Interpolation sur
    coordonnées continues
    Séminaire S3 19 9 Février 2023
    Séminaire S3 19 9 Février 2023

    View full-size slide

  24. Algorithme EM pour l’imagerie Robuste
    Tirer partie de l’algorithme de FFT
    Choix d’un jeu de données complètes :
    d Les paramètres de textur€
    d La transformée de Fourier complète bruitée sur une grille uniforme :
    d Maximisation dans l’espace de Fourier uniforme
    e
    Séminaire S3 20 9 Février 2023
    Séminaire S3 20 9 Février 2023

    View full-size slide

  25. Algorithme EM pour l’imagerie Robuste
    Tirer partie de l’algorithme de FFT
    L’Algorithme 2 : FFT - EM Imager
    espérance de la transformée de
    Fourier de l’image du ciel sur une grille
    uniforme
    Etape E
    Etape M
    Séminaire S3 21 9 Février 2023
    Séminaire S3 21 9 Février 2023

    View full-size slide

  26. Algorithme EM pour l’imagerie Robuste
    Régularisation parcimonieuse :
    EM IMAGER
    FFT EM IMAGER
    Résolution de l’étape M par l’algorithme ISTA
    EM IMAGER O(KN)
    FFT EM IMAGER O(Nlog(N))
    algorithme de FFT
    Séminaire S3 22 9 Février 2023
    Séminaire S3 22 9 Février 2023
    produit matriciel

    View full-size slide

  27. Algorithme EM pour l’imagerie Robuste
    Résultats numériques
    q Visibilités générées à partir d’un modèle de ciec
    q Bruit t-distribué ajoutƒ
    q 2 implémentations de l’EM robuste I
    q EM ISTA : Étape M par un ISTA
    q EM CLEAN : Étape M par un CLEA5
    q FFT EM : Étape M par un ISTA
    q Comparaison avec un CLEAN
    Modèle de ciel
    Séminaire S3 23 9 Février 2023
    Séminaire S3 23 9 Février 2023

    View full-size slide

  28. Algorithme EM pour l’imagerie robuste
    Résultats numériques
    s 100 répétitions de Monte Carli
    s Métriques : SSIM, SNR, Cross-Corrélation normalisée
    Séminaire S3 24 9 Février 2023
    Séminaire S3 24 9 Février 2023

    View full-size slide

  29. Algorithme EM pour l’imagerie robuste
    Résultats numériques
    Comparaison des temps d’exécution en fonction du nombre de visibilitéS
    7 EM IST4
    7 FFT EM ISTA
    Séminaire S3 25 9 Février 2023
    Séminaire S3 25 9 Février 2023

    View full-size slide

  30. 3. Apprentissage informé pour l’imagerie

    interférométrique

    View full-size slide

  31. Principe du dépliement neuronal
    Traitement du signal classique @
    S Modèle physique@
    S Algorithme itératiI
    S Résultats interprétable(
    S Sensibilité aux erreurs de modèle
    Apprentissage profone
    S Modèle complexe et flexibl…
    S Résultats non interprétables (boite noire—
    S Performances optimales sur les
    distributions d’entraînement et de test
    Dépliement neuronal
    Séminaire S3 26 9 Février 2023
    Séminaire S3 26 9 Février 2023

    View full-size slide

  32. Principe du dépliement neuronal
    9 Un algorithme d’optimisation itératif peut
    s’interpréter comme un réseau de neurones
    récurent (RNN)
    Algorithme itératif
    Dépliement neuronal …
    9 Apprentissage des poids et hyperparamètres—
    9 Flexibilité additionnelle
    Algorithme déplié
    Séminaire S3 27 9 Février 2023
    Séminaire S3 27 9 Février 2023

    View full-size slide

  33. Imagerie par dépliement neuronal
    Algorithme EM :3
    H MSTEP : Iterative Soft Threshold Algorithm (ISTA
    H Hyperparmètre : γ, alpha
    Inputs:

    x(0), niteration, H, y, γ, α
    Algorithm:
    For m=1:niteration
    Représentation dépliée d’une itération
    x(m)
    y
    H
    HH
    γ
    x(m+1)
    Séminaire S3 28 9 Février 2023
    Séminaire S3 28 9 Février 2023

    View full-size slide

  34. Imagerie par dépliement neuronal
    Couches linéaires : le modèl
    " Représente le modèle et son
    gradient
    x(m)
    y
    H
    HH
    γ
    x(m+1)
    Séminaire S3 29 9 Février 2023
    Séminaire S3 29 9 Février 2023

    View full-size slide

  35. Imagerie par dépliement neuronal
    Couche “robuste2
    @ Calcul de l’espérance approximée
    par un réseau de neuroneF
    @ Flexibilité par rapport à l’algorithme
    original
    |y - Hx(m)|2
    ω(m)
    Linear (nvis x 2nvis )
    ReLU
    ReLU
    Sigmoid
    Linear (2nvis x 2nvis )
    Linear (2nvis x nvis )
    x(m)
    y
    H
    HH
    γ
    x(m+1)
    Séminaire S3 30 9 Février 2023
    Séminaire S3 30 9 Février 2023

    View full-size slide

  36. Imagerie par dépliement neuronal
    Seuillage douA
    4 Le seuillage doux est implémenté
    par une activation ReLU dépendant
    du paramètre de seuil
    x(m)
    y
    H
    HH
    γ
    x(m+1)
    Séminaire S3 31 9 Février 2023
    Séminaire S3 31 9 Février 2023

    View full-size slide

  37. Imagerie par dépliement neuronal
    Architecture Globale

    paramètres à apprendre : H, Θ, α
    ReLU(α)
    x(m)
    y
    Linear(H)
    Robust
    layer(Θ)
    Linear(HH)
    x(m+1)
    Séminaire S3 32 9 Février 2023
    Séminaire S3 32 9 Février 2023

    View full-size slide

  38. Apprentissage
    Apprentissage supervisé @
    V 1000 epochA
    V Optimiser : Adam, learning rate à 0.0005
    V Fonction coût : MSE
    Séminaire S3 33 9 Février 2023
    Séminaire S3 33 9 Février 2023

    View full-size slide

  39. Jeux de données d’entraînement
    Modèle de cieC
    ! Les galaxies et objets stellaires observés peuvent être modélisés par des
    ellipsoïdes Gaussiennes [Connor2022
    ! L’apprentissage se fait sur des modèles de ciel simulés par des ellipsoïdes
    Gaussiennes
    Cyril Tasse, Observatoire de Paris -
    PSL et l’équipe survey LOFAR
    Un amas de galaxies vu par le LOFAR.
    Séminaire S3 34 9 Février 2023
    Séminaire S3 34 9 Février 2023

    View full-size slide

  40. Jeux de données d’entraînement
    Modèle de ciel simulé 7
    8 2 sources Gaussiennes espacées de 10 pixelsG
    8 La taille de la Gaussienne et la puissance de la source varient
    Visibilités sans bruits générées à partir des modèles de ciel :
    Séminaire S3 35 9 Février 2023
    Séminaire S3 35 9 Février 2023

    View full-size slide

  41. Jeux de données d’entraînement
    Dataset A. Bruits hétérogène7
    P Bruit additif distribué selon une K-
    distribution est ajouté
    v Texture distribuée selon une loi gamma
    Séminaire S3 36 9 Février 2023
    Séminaire S3 36 9 Février 2023

    View full-size slide

  42. Résultats numériques
    Dataset A. Bruits hétérogènes
    Méthode
    EM appris
    EM ISTA
    SNR
    14.4
    2.34
    SSIM
    0.81
    0.47
    Cross Correlation
    0.98
    0.71
    Ciel à reconstruire EM + ISTA EM appris
    Séminaire S3 37 9 Février 2023
    Séminaire S3 37 9 Février 2023

    View full-size slide

  43. Jeux de données d’entraînement
    Dataset B. Simulation d’erreur de calibratio3
    a Erreur de calibration simulée par un bruit
    multiplicatif I
    a Bruit additif Gaussien est ajouté
    Séminaire S3 38 9 Février 2023
    Séminaire S3 38 9 Février 2023

    View full-size slide

  44. Résultats numériques
    Dataset B. Simulation d’erreur de calibration
    Méthode
    EM appris
    EM ISTA
    SNR
    6.81
    1.82
    SSIM
    0.64
    0.60
    Cross Correlation
    0.89
    0.86
    Ciel à reconstruire EM + ISTA EM appris
    Séminaire S3 39 9 Février 2023
    Séminaire S3 39 9 Février 2023

    View full-size slide

  45. Conclusion
    Conclusio@
    W 2 Algorithmes d’imagerie robuste à la présence d’interférence
    W Bruit issu d’un composé GaussienS
    W Accélération de l’algorithme par la structure du modèle de radio
    interférométrieS
    W Réseau de neurones informé dérivé du modèl$
    W Flexibilité du modèl$
    W Interprétabilité du réseau

    Perspective
     Tirer partie de l’algorithme de FFT et introduire des couches de convolutio@
     Images plus complexe
     Comparaison avec méthodes d’apprentissage
    Séminaire S3 40 9 Février 2023
    Séminaire S3 40 9 Février 2023

    View full-size slide

  46. Merci de votre attention
    [email protected]

    View full-size slide