論文輪読会 第5回 "HealthyGAN: Learning from Unannotated Medical Images to Detect Anomalies Associated with Human Disease"

AcademiX が開催した 第5回 論文輪読会　資料

日時：2023/03/18
論文タイトル：HealthyGAN: Learning from Unannotated Medical Images to Detect Anomalies Associated with Human Disease

＜概要＞
ラベルなしの正常・異常混合データセットから正常データへの一方向への変換を学習し，推論の入力と出力の差で異常検知するHealthyGANを導入．新しい再構成誤差によりcycle consistencyを維持．医用画像での3つの検出課題で既存手法の精度より大幅に精度改善．

Transcript

1. 　 https://www.academix.jp/ AcademiX 論文輪読会 HealthyGAN: Learning from Unannotated Medical Images to Detect Anomalies Associated with Human Disease 熊本大学 Jinsei Shiraishi 2023/03/18
2. 目次
 • 今回の論文について
 • 導入：背景と問題，モデル提案の動機
 • モデル：HealthyGAN
 • モデルのアーキテクチャ，学習と推論
 • 実験と結果
 • 結論
 • 感想
 • （追記）考察・疑問
 • 参考文献

3. 今回の論文について
 • タイトル：HealthyGAN: Learning from Unannotated Medical Images to Detect Anomalies Associated with Human Disease[1]
 ◦ （抄訳『HealthyGAN：ヒトの疾患に関連した異常検知のためのラベルなし医用画像からの学習』） 
 ◦ 引用元の記載のない図は全て上記より引用 
 • 著者：Md Mahfuzur Rahman Siddiquee, Jay Shah, Teresa Wu, Catherine Chong, Todd Schwedt, Baoxin Li
 • URL：https://arxiv.org/pdf/2209.01822.pdf
 • Code：https://github.com/mahfuzmohammad/HealthyGAN
 • 選定理由：松尾研究室の深層生成モデル講座にてGANについて学んだところで， 医療分野（画像関係）にも興味があり，この2つに関連した論文を見つけ理解してみ たいと思ったから．

4. 導入
 • 背景
 ◦ 医用画像などの異常検知では，ラベル付けされた十分量のデータセットを得るのが難しい 
 ◦ そのため，正常画像のみから学習するアプローチがとられる 
 • 問題
 ◦ 実用上は，異常画像と正常画像がラベルなしの状態で混在 
 ◦ →精度向上のために，ラベルなしの混合データセットをどう利用するか？ 
 • モデル提案の動機
 ◦ 上記の問題のアプローチ：過去にはSVMを用いたアプローチが存在[2] 
 ◦ 深層学習を用いたアプローチはまだ見られていなかった 

5. モデル：HealthyGAN
 • Generatorは正常と異常が混ざったデー タセットから正常なデータセットを生成す る（一方通行）
 • Discriminatorは生成したデータセットと 元の正常データセットを識別するように 学習
 • GeneratorとDiscriminatorが交互に学習 （GANと同じ）
 • Testing Stageでは，元のデータセットお よびそれから生成されたデータセットの 差異を異常とみなす

6. モデルの特徴
 • 従来モデルの特徴（ペア対応のない画像間変換，CycleGAN[3]など）
 ◦ 双方向性（正常→異常，異常→正常というように生成）：cycle consistencyを満たすため 
 ◦ 学習前に，画像が正常か異常かラベル付けしなければならない 
 ◦ 問題点：ラベルなしで正常画像から異常画像の生成を行うことができない 
 • HealthyGANの特徴
 ◦ ペア対応のない，一方向性の画像間変換 
 ◦ 新しい再構成誤差を導入→入力画像のラベルがなくてもcycle consistencyが確保される 
 ▪ 具体的には，attention-maskの使用により，再構成された画像が生成される 

7. ※cycle consistencyについて：CycleGAN等で必要
 Zhu, Jun-Yan, et al. "Unpaired image-to-image translation using cycle-consistent adversarial networks." Proceedings of the IEEE international conference on computer vision. 2017.
8. モデルのアーキテクチャ
 • discriminatorは，入力が本物の正常データか，生成された正常データか識別
 • generatorは，A（正常と異常が混ざったデータセット）とB（正常のみのデータセット）から，A’とB’をそれ ぞれ生成
 ◦ 実際はAとBからBint（中間の正常画像）とM（マスク：0-1）を生成，そこから以下の式に従いA’と B’を生成

9. モデルの学習
 discriminatorの学習 
 • 正常データセットBを本物，generatorが生成 したデータを偽物と認識するように学習する 
 • adversarial lossは以下の通り 
 
 • Wasserstein GAN，および学習の安定化のた めの重み付き勾配ペナルティをもとにしてい る
 • discriminatorの目的関数： 
 discriminator2回→generator1回の学習を繰り返す
10. モデルの学習
 generatorの学習
 • 4つのloss
 ◦ adversarial loss
 ◦ identity loss（Bを入力とするとオートエンコーダの様にふるまう）
 ◦ reconstruction loss（AとA’の差）
 ◦ focus loss（マスクの大きさを制御）
 • generatorの目的関数は上記の重み付き合計： 
 discriminator2回→generator1回の学習を繰り返す
11. モデルの推論
 • モデルの学習後，テストデータセット（正常と異常が混合）を正常に変換
 • 出力と入力の差をとる
 ◦ 入力が異常の場合，差は異常（疾患）な部分を表すはず 
 ◦ 入力が正常の場合，差は（ほぼ）0になるはず 
 • 差の平均の値をとることで疾患を検知する
 • 異常（疾患）の場所を示したり関連する箇所を特定するのに用いられるが，異常（疾 患）に特異的な特徴を全て見つけるのは保証できないことに注意

12. 実験
 • 3つの課題（COVID-19検出，胸部疾患検出，片頭痛検出）において，データセットを 用いて精度を検出
 • 評価指標はAUCスコアを使用．さらにprecision，recall，specificity，F1スコアを記録
 ◦ precision（適合率）：陽性判定の中で実際に陽性の割合 
 ◦ recall（再現率）：陽性の中で陽性判定を受ける割合 
 ◦ specificity（特異度）：陰性の中で陰性判定を受ける割合 
 ◦ F1スコア：precisionとrecallの調和平均 
 • 既存モデル：ALAD, ALOCC, f-AnoGAN, Ganomaly, Padim, PatchCore
 ◦ 初めの4つは手法がHealthyGANに類似 
 ◦ あとの2つは違う

13. 結果
 • HealthyGANは，3つの課題のほぼ すべての指標で，既存の手法を上 回っている
 • COVID-19：AUC 0.84は他よりかな り大幅に改善．RecallだけALADが 突出
 • X-ray 14 diseases：他と比較して微 増といった印象（AUC以外 f-AnoGANと並んでいる） 
 • 片頭痛：Ganomalyが全項目で2位 
 太線：行の中で1位，下線：2位
14. 結果
 • COVID-19とX-ray 14 Diseasesでは ，陽性例で異常と関連する場所が 検出されていることが見て取れる． 陰性例での検出はなさそう 
 • 片頭痛ではどちらも異常と思われる 場所は（ほとんど）検出されていな い

15. 結論
 • 新しい再構成誤差を導入したことにより，入力にラベルがなくてもcycle consistency を保つことが可能になった
 • 性能向上は，学習の過程でラベルなしの異常な画像が利用できるから，と著者ら は結論している

16. 感想
 • 論文をまとめて発表することは今までほとんどなく，一本の論文を読み込むのがこ んなにも大変なことなのかと実感した．
 • 先行研究からの相違点を明らかにすることで，扱うモデルのnovelityが見えてくるも のだと思った．
 • 目的関数の設計思想の理解に時間がかかった（今も完璧に理解できている自信が ないが・・）．
 • 余裕があれば実装までしたい（データを使って実際にモデルを動かす）．

17. （追記）考察・疑問
 • 医師の診断と比較した精度については不明だが，もし医療への応用を視野に入れ た場合，説明可能性という点で優れているのかもしれない（異常箇所を提示してく れるので）
 • 提示された異常箇所は目的とする疾患の病態を反映しているのか？？

18. 参考文献
 [1]Rahman Siddiquee, Md Mahfuzur, et al. "HealthyGAN: Learning from Unannotated Medical Images to Detect Anomalies Associated with Human Disease." Simulation and Synthesis in Medical Imaging: 7th International Workshop, SASHIMI 2022, Held in Conjunction with MICCAI 2022, Singapore, September 18, 2022, Proceedings. Cham: Springer International Publishing, 2022. 
 [2]Zuluaga, M.A., et al.: Learning from only positive and unlabeled data to detect lesions in vascular ct images. In: International conference on medical image computing and computer-assisted intervention. pp. 9–16. Springer (2011)
 [3]Zhu, Jun-Yan, et al. "Unpaired image-to-image translation using cycle-consistent adversarial networks." Proceedings of the IEEE international conference on computer vision . 2017.