시계열 이상탐지의 성능을 결정하는 요인: 모델 표현력과 정상 매니폴드의 기하학

1. 배경: 정상 데이터만으로 고장을 찾는 문제

산업 회전기계의 예지보전(PHM)을 주제로 진행한 개인 연구입니다. IMS Bearing 공개 데이터셋으로 베어링의 고장 시점을 사전에 감지하고 잔여 수명을 추정하는 파이프라인을 직접 설계했습니다.

출발점은 이 사실이었습니다. 24시간 연속 가동되는 회전 기계에서 '정상' 상태는 고정된 값이 아닙니다. 마모, 부하 변동, 환경 요인이 누적되면서 데이터 분포 자체가 이동(drift)하기 때문입니다.

기존 진단 방식은 이 전제를 충족하지 못합니다. RMS나 첨도(kurtosis)가 특정 임계값을 초과하면 경보를 발생시키는 고정 임계값 방식은 세 가지 구조적 한계를 갖습니다.

첫째, 단순 통계량 기반 기준선은 노이즈에 취약하여 오경보(False Alarm)를 빈발시킵니다. 둘째, 특정 결함 주파수를 추적하는 방식은 운전 조건이 바뀌는 도메인 시프트 상황에서 성능이 급격히 저하됩니다. 셋째, 초기 미세 변화를 포착하지 못해 탐지가 지연되며, 이는 예지보전(Predictive Maintenance)의 목적 자체를 훼손합니다.

본 연구는 이상탐지를 임계값 초과 판정이 아닌 상태 감시(state-monitoring) 문제로 재정의합니다. 즉, 학습된 정상 매니폴드로부터의 이탈 정도를 추적하여 운영자가 개입 시점을 판단할 수 있는 신호를 제공하는 것을 목표로 설정했습니다.

2. 방법론

2.1 예측 오차를 이상 지표로 사용하는 설계

제안 파이프라인의 핵심은 한 스텝 앞 예측(one-step-ahead forecasting) 입니다. 모델은 정상 상태의 진동 패턴만을 학습합니다. 베어링이 열화되면 파형의 자기 유사성이 붕괴되고, 이에 따라 예측값과 실측값의 오차가 단조 증가합니다. 이 오차 궤적 자체가 이상 지표(anomaly indicator)로 기능합니다.

 진동 신호 ─► CNN 국소 특징 ─► Trend/Seasonality 분해 ─► Block-sparse Attention ─► 예측 x̂(t)
                                                                                      │
                       재구성 오차  e(t) = (x(t) − x̂(t))²  ◄─────────────────────────┘
                                │
   정상 구간 자동 탐지(롤링 분산) ─► 해당 구간의 μ, σ 산출
                                │
        Low = μ+3σ · Medium = μ+4.5σ · High = μ+6σ   (수동 튜닝 없음)
                                │
   Failure Index = High 경보 3회 연속 최초 지점 ─► RUL = (N − idx − 1)·Δt

2.2 전처리: 무엇을 버릴 것인가

원본은 20kHz로 수집된 8채널(Test 1) 또는 4채널 진동 신호입니다. 그대로 쓰면 학습이 불가능한 규모라 세 단계로 줄였습니다.

• 채널 축소. 같은 베어링의 인접 두 채널을 평균((ch1+ch2)/2)해 4채널로 만들었습니다. 두 채널이 같은 물리적 부위를 다른 축에서 보는 것이므로, 평균이 개별 축의 노이즈를 상쇄합니다.
• 다운샘플링. 10분의 1로 솎아 20kHz → 2kHz로 낮췄습니다. 베어링 결함 주파수 대역이 이 범위 안에 들어오므로 열화 신호는 보존됩니다.
• 슬라이딩 윈도우. 입력 x(1:T-1), 정답 x(T) 형태로 잘라 한 스텝 앞 예측 문제로 구성했습니다.

전처리 단계에서 무엇을 버려도 되는지 판단하는 근거가 도메인 지식이었습니다. 다운샘플링 비율을 결함 주파수 대역으로부터 역산했기 때문에, 데이터를 90% 버리면서도 찾으려는 신호는 남길 수 있었습니다.

2.3 자기부호화기(Autoencoder) 대신 예측 모델을 선택한 근거

재구성 오차 기반 자기부호화기는 정상 구간 내의 미세한 드리프트에도 오차가 상승하는 경향을 보입니다. 반면 다음 시점 예측 방식은 '예측 가능성의 붕괴' 라는 보다 명확한 사건에 반응하므로 열화 신호가 상대적으로 깨끗하게 관측됩니다. 동일 신호에 대해 이동평균 베이스라인(MA(w=5))과 한 스텝 예측 MSE를 직접 비교했고, Transformer 쪽이 자릿수 단위로 낮게 측정되어 이 선택의 타당성이 실증됐습니다.

2.4 임계값의 데이터 기반 산출

임계값은 정상 구간의 오차 통계량으로부터만 도출됩니다. μ+6σ에 해당하는 High 경보는 정규성 가정 하에서 10억분의 1 미만의 확률로 발생하는 사건이므로, 임의로 조정한 값이 아니라 구조적으로 유의미한 고장 신호로 해석할 수 있습니다.

여기서 한 가지 설계상 주의가 필요했습니다. 정상 구간을 "초기 10%"와 같이 고정 가정할 경우, IMS 데이터셋에 존재하는 초기 센서 스파이크가 통계량을 오염시킵니다. 따라서 오차의 롤링 분산이 급증하는 지점을 기준으로 정상 구간을 자동 탐지하도록 구성했습니다.

또한 단일 스파이크가 아닌 High 경보 연속 발생(consecutive_steps=3)을 고장 시점(Failure Index)의 판정 기준으로 삼아 일시적 충격에 의한 오경보를 억제했습니다. 판정에 쓰는 오차는 평활하지 않은 원본 오차이며, 평활(이동평균)은 시각화에만 적용해 탐지 시점이 밀리지 않도록 분리했습니다.

3. 실험 결과: 교차 도메인 평가

본 연구의 차별점은 성능 수치가 아니라 9가지 교차 도메인 평가(3×3) 에 있습니다. IMS 데이터셋의 Test 1/2/3을 각각 학습 도메인과 평가 도메인으로 교차 배치하여 전 조합을 검증했습니다.

결과는 9개 조합 중 5개에서만 고장 시점이 탐지됐습니다. 나머지 4개는 null을 반환했습니다.

예측 오차(MAE) 자체는 모든 조합에서 0.0022 ~ 0.0263 범위로 낮습니다. 오차가 낮은데도 탐지에 실패한다는 점이 이 결과의 핵심입니다. 모델이 신호를 재현하지 못해서가 아니라, 재현한 오차 안에서 고장 구간을 분리할 수 없기 때문입니다.

이 결과를 은폐하지 않고 기하학적으로 설명하는 것이 본 연구의 목적입니다.

3.1 도메인 내 실패가 갖는 함의

주목할 지점은 동일 도메인 조합(2→2, 3→3)에서도 탐지가 실패했다는 사실입니다. 학습과 평가가 같은 분포에서 이루어졌음에도 실패했다는 것은, 탐지 성능이 모델의 표현력(expressiveness)이 아니라 정상 매니폴드의 기하학적 형태와 분산 구조에 의해 결정된다는 것을 의미합니다.

Test 2의 경우 정상 상태의 분산 대역 자체가 넓어, 이상 신호가 그 대역 안에 흡수됩니다. Test 3은 정상 구간에 이미 버스트가 포함되어 있어 모델이 고장의 전조를 정상 패턴의 일부로 학습합니다. 두 경우 모두 모델을 더 크게 만들어도 해결되지 않는 문제입니다.

3.2 교차 도메인 실패의 재해석

교차 도메인 실패 역시 모델의 실패가 아니라 정상의 정의(definition of normal)에 관한 실패로 재해석됩니다.

• 1→2 (clean→noisy): 좁은 정상 대역을 학습한 모델이 넓은 분산 환경에서 조기 오발화
• 2→1 (noisy→clean): 넓은 정상 대역을 학습한 모델이 실제 이상을 경계 내부로 흡수하여 무반응

세 데이터셋의 RMS 시계열에 대해 두 가지 검정을 수행했습니다. K-S 검정은 RMS 분포가 정규분포를 따르지 않음을, Levene 검정은 전반부와 후반부의 분산이 유의하게 다름을 보였습니다. 특히 후자가 비정상성(non-stationarity)의 직접적인 근거입니다. 고정 임계값이 무너지는 이유가 여기에 있습니다. 분산 자체가 시간에 따라 변하므로, 한 시점에서 보정한 기준선은 다른 시점에서 유효하지 않습니다.

4. RUL 추정의 실용적 설계

잔여 유효 수명(RUL)은 추상적인 샘플 개수가 아니라 IMS 데이터셋의 실제 파일 수집 간격(5분/10분)을 누적하여 물리적 시간 단위로 산출했습니다. 정비 의사결정에 직접 활용 가능한 형태로 출력하기 위한 선택입니다.

모델 하이퍼파라미터(model_dim=96, num_heads=4, num_layers=2, dropout=0.3, block_size=20)는 과적합·과소적합 증거에 근거하여 결정했으며, 임의로 설정하지 않았습니다.

5. 결론 및 시사점

본 연구가 도출한 결론은 다음과 같이 요약됩니다.

첫째, 시계열 이상탐지의 신뢰 구간은 모델이 아니라 데이터가 규정합니다. 탐지기를 도입하기에 앞서 정상 데이터의 분산 구조와 스펙트럼 특성을 먼저 파악해야 하며, 이를 생략한 채 모델 성능만으로 신뢰성을 논하는 것은 타당하지 않습니다.

둘째, 실패 사례의 공개가 시스템의 신뢰성을 높입니다. 9개 조합 중 5개 성공이라는 수치는 표면적으로는 불완전해 보이나, 어떤 조건에서 탐지가 작동하고 어떤 조건에서 작동하지 않는지를 명시함으로써 실제 운영 환경에서의 적용 가능성을 판단할 근거를 제공합니다. 성공 사례만 제시된 탐지기는 배포 시점에 그 한계가 드러납니다.

셋째, 이상탐지는 정상 매니폴드와 이상 방향 사이의 기하학적 분리 문제로 정식화됩니다. 이 관점에서 보면 "모델을 더 크게" 또는 "데이터를 더 많이"라는 접근보다, 정상의 경계를 어떻게 정의할 것인가가 선행 과제임이 분명해집니다.

전체 파이프라인(전처리 → 예측 → 임계값 산출 → 고장 시점 판정 → RUL)은 config.json 기반으로 자동화되어 있습니다. 임계값 배수, 연속 판정 횟수, 다운샘플링 비율 같은 결정값이 전부 코드가 아닌 설정 파일에 모여 있어, 실험 조건을 바꿀 때 코드를 건드리지 않습니다.

여기에 더해 결과를 재학습 없이 확인할 수 있는 정적 대시보드를 함께 만들었습니다. analysis_results/에 이미 저장된 산출물만 읽으므로 데이터셋도 GPU도 필요 없습니다. 9개 조합을 3×3 격자로 놓고 각 칸을 눌러 오차 궤적과 임계값 선, 탐지된 고장 시점, 경보 레벨 분포를 볼 수 있게 했습니다. 각 칸에는 왜 성공했고 왜 실패했는지의 기하학적 해석을 붙였습니다.

이 대시보드를 만든 이유는 5/9라는 결과 때문이었습니다. 숫자만 제시하면 실패한 4개는 변명처럼 읽힙니다. 실패한 조합의 오차 궤적이 임계값 대역 안에서 어떻게 뭉개지는지를 직접 보여줘야, 그것이 모델의 부족이 아니라 데이터의 기하학이라는 주장이 검증 가능해집니다. 판단 근거를 읽는 사람에게 넘기는 것이 결론을 강조하는 것보다 설득력 있다고 봤습니다.

코드와 상세 리포트는 GitHub 저장소에 공개되어 있습니다.