이미지 노이즈 제거 알고리즘 - TV method(1)

 

딥러닝이 지금처럼 발전하기 전, 영상처리 분야 중 노이즈 제거 분야에서 가장 핫한 방법은 Total Variation Method(TV method)이었다. 수학에 관심이 많은 사람이라면 TV 알고리즘을 처음 보았을 때, 그 방정식의 아름다움을 느낄 수 밖에 없다. 오늘은 한때 최고의 노이즈 제거 방법이었던 TV에 대해 알아본다.

 

---

1. TV의 역사

(1) Rudin, Osher, Fatemi (1992년, ROF 모델)

TV 알고리즘의 역사는 이 세 사람의 이름을 딴 ROF 모델에서 시작됩니다. 당시 이미지 복원의 주류는 $L^2$ norm을 최소화하는 방식(Tikhonov Regularization)이었는데, 결과물이 너무 뿌옇게(Blurry) 변한다는 치명적인 단점이 있었죠.

 

혁신 : 이들은 "이미지의 총 변동량(Total Variation)을 최소화하되, $L^1$ norm의 성질을 이용하자"는 파격적인 제안을 합니다.

 

수학적 의의 : 이미지를 단순히 연속적인 함수가 아니라, '계단 현상(Jump discontinuity)'을 허용하는 BV(Bounded Variation) 공간의 원소로 정의했습니다. 이것이 현대 디지털 이미지 처리의 수학적 토대가 되었습니다.

 

(2) 발전기: 기하학적 해석과 PDE의 결합 (1990년대 중반 ~ 2000년대 초반)

ROF 모델이 발표된 후, 수학자들은 이 수식이 가지는 기하학적 의미에 집중하기 시작했습니다.

 

곡률(Curvature)의 도입 : TV 최소화 과정이 결국 이미지의 등고선(Isophotes)을 곡률에 따라 이동시키는 'Mean Curvature Flow'와 맞닿아 있다는 사실이 밝혀졌습니다.

 

Anisotropic Diffusion : Perona-Malik 모델 등이 등장하며, 단순히 노이즈를 지우는 것을 넘어 이미지의 구조(Structure)를 어떻게 보존할 것인가에 대한 PDE 연구가 활발해졌습니다.

 

(3) 암흑기와 극복: 수치적 난제와 알고리즘의 진화 (2000년대 중반)

이론은 완벽했지만, 당시 컴퓨터 사양으로 TV를 구현하는 것은 매우 고통스러운 일이었습니다. $|\nabla u|=0$ 근처에서의 비미분 가능성 때문에 계산이 자꾸 터지거나 너무 느렸거든요.

 

Iterative Reweighted Least Squares (IRLS) : 비선형 문제를 선형 문제의 반복으로 풀어보려는 시도들이 있었습니다.

 

Split Bregman Method (2009년) : Goldstein과 Osher가 제안한 이 방식은 복잡한 $L^1$ 문제를 '나눠서(Split)' 풀 수 있게 만들며 구현 속도를 획기적으로 높였습니다. 이때부터 실무에서도 TV를 본격적으로 쓰기 시작했습니다.

 

(4) 완성기: Primal-Dual의 등장 (2011년 ~ 현재)

그러던 중 Chambolle-Pock 알고리즘(Primal-Dual Hybrid Gradient)이 등장하면서 TV 알고리즘은 비로소 완성 단계에 이릅니다.

 

표준의 확립 : 수학적으로 엄밀하면서도 GPU 병렬 연산에 최적화된 이 알고리즘 덕분에, 이제는 실시간 영상 처리에서도 TV를 사용할 수 있게 되었습니다.

 

확장 : 단순히 Denoising을 넘어, 데이터가 부족한 상태에서 이미지를 복원하는 Compressed Sensing(압축 센싱)의 핵심 도구로 자리 잡았습니다. MRI 촬영 시간을 획기적으로 줄인 것도 이 TV 기반의 수학적 알고리즘 덕분입니다.

 

(5) 현대: 딥러닝과의 융합 (2010년대 후반 ~ 현재)

지금은 TV 알고리즘 자체가 신경망의 일부가 되었습니다.

 

Plug-and-Play (PnP): 딥러닝 모델이 이미지를 생성하면, TV 알고리즘이 '수학적 검수관'으로 참여해 결과물의 아티팩트를 제거합니다.

 

Deep Unrolling: TV 최적화 단계 자체를 딥러닝 레이어로 구현하여, 수학적 논리와 데이터의 힘을 합친 하이브리드 모델들이 주를 이룹니다.