[Model Review] TadGAN(Time series Anomaly Detection GAN)

이번에 고장진단에 관한 과제를 하게 되면서 LSTM AE나 CNN 보다 최근 모델을 적용해보고 싶어서 TadGAN을 골랐다. 아직 완전히 이해했는지는 모르겠으나 알게된대로 조금 적어보려고 한다. 

TadGAN(Time series Anomaly Detection GAN)

TadGAN은 2020년 발표된 모델로, 이름 그대로 시계열 데이터의 이상 탐지용 GAN 모델이다. GAN 모델은 복원, 이미지 생성 등에 특화되어 있는데, 이 성질을 이용하여 LSTM Auto Encoder처럼 패턴을 복원하며 학습하고, 이후에 들어오는 새로운 데이터를 기반으로 예측했을 때 에러가 큰 부분을 이상치로 탐지하는 것이다.

이미지 출처 - Smilegate ai

TadGAN의 구조

TadGAN은 2개의 Generator와 2개의 Critic 으로 구성된다. 

• Generator E : time series sequence to latent space
• Generator G : latent space to time series sequence
• Critic X : 원본 데이터와 생성된 결과 중 원본 판별
• Critic Z : Generator E가 latent space를 잘 생성했는지 판별

 

TadGAN 동작 방식

TadGAN은 총 4개의 단계를 걸쳐 동작한다. 

Phase 1

Generator G를 학습시키는 과정이다. Generator G에서 주어진 랜덤 데이터를 다시 시계열 데이터로 복원한 뒤, Critic X에서 실제 데이터와 어떤 것이 원본인지 비교하게 된다. G가 복원한 데이터가 실제 데이터와 같아질 수록 Critic X의 오답률이 높아진다. 

 

Phase 2

Generator E를 학습시키는 과정이다. Generator E가 latent space를 잘 생성하도록 학습시킨다. 실제 데이터를 E를 거쳐 latent space로 만들고, 랜덤 데이터와의 오차를 Critic에서 계산한다. E가 잘 학습될 수록 Critic Z의 오답률이 낮아진다.

 

Phase 3

Generator E로 생성한 latent space를 Generator G로 복원한 시계열 데이터와 랜덤 latent space를 Generator G로 복원한 시계열 데이터에 대해 Critic X에서 오차를 계산한다. 최대한 Critic X를 속이는 방향으로(오답률이 높아지게) 학습을 진행하며, 랜덤 데이터로 생성한 시계열 데이터의 Critic X 점수를 loss function 에 추가해서 Decoder의 학습이 얼마나 진행되었는지에 따라 속도를 조절한다. 

Phase 4

실제 데이터를 Generator E를 거쳐 생성한 latent space를 Generator G로 복원한 데이터와 실제 데이터 x를 비교합니다. 원본 데이터의 latent space와 random latent space의 Cz의 score들을 loss function에 추가해 Phase3 처럼 Encoder의 학습의 진행에 따라 학습 속도를 조절한다. 

 

PyTorch 구현 Github 주소

GitHub - arunppsg/TadGAN: Code for the paper "TadGAN: Time Series Anomaly Detection Using Generative Adversarial Networks"

Orion TadGAN

GitHub - sintel-dev/Orion: A machine learning library for detecting anomalies in signals.

 

이후에 직접 수집한 진동 데이터를 기반으로 학습시켜본 기록을 포스팅하도록 하겠다.