AI 노이즈 감소 도구: NXT, DeepSNR 그리고 그 친구들

최근 몇 년 사이, 천체 이미지의 별 제거와 노이즈 감소 작업은 거의 전면적으로 AI 도구가 넘겨받았습니다. 이 글에서는 주류로 쓰이는 AI 노이즈 감소 도구 몇 가지와, 제가 실제 테스트에서 관찰한 장단점 및 버전별 변천을 정리해 보겠습니다.

왜 AI 노이즈 감소는 이렇게 강력한가?

먼저 숫자 한 묶음을 보면서, 이 도구들 뒤에 있는 모델의 규모(파라미터 수 기준)를 느껴 보시기 바랍니다.

StarXTerminator: 2,100만
StarNet++: 5,400만
StarNet V2: 3,000만
NoiseXTerminator: 2,400만
Topaz Denoise AI: 1,400만

이 모델들은 모두 합성곱(convolution), 멀티스케일(multiscale), 임계값(threshold)을 핵심 개념으로 삼습니다. 현재 딥스카이 이미지에서의 주된 용도는 두 가지—별 제거와 노이즈 감소입니다.

핵심은 이것입니다—머신러닝의 힘을 빌리지 않고, 각종 천체 이미지를 위한 학습 데이터로 파라미터를 최적화하지 않으면, 전통적인 방식만으로는 온갖 천체에 대해 최상의 결과를 얻기가 사실 매우 어렵습니다. 바로 여기에 AI 도구의 가치가 있습니다.

디컨볼루션도 AI에 맡길 수 있다: BlurXTerminator

2022년, 디컨볼루션(Deconvolution)까지도 AI에 맡길 수 있게 되었습니다. Russell Croman(RC)이 이미지 처리에서 AI의 또 다른 응용을 발견하여 BlurXTerminator를 구현해 냈습니다.

저는 그때 30일 체험판을 내려받아, 10년 전에 촬영한 M1 게성운 한 장을 가지고 시험해 보았습니다. 왼쪽 이미지는 DBE만 적용한 원본 파일이고, 가운데는 제가 이전에 PixInsight 네이티브 디컨볼루션으로 만든 결과물이며, 가장 오른쪽은 BXT가 원클릭으로 완성한 결과입니다. 어찌나 결과가 좋던지, 비교해 보니 제가 직접 손으로 한 디컨볼루션은 마치 실패작처럼 보일 정도였습니다—게다가 저는 파라미터를 맞추는 데 최소 20분은 썼는데, BXT는 1분도 안 걸려 끝냈습니다. 결론은 단순합니다: 과금할 만한 것에는 과금하자—시간도 아끼고 결과도 좋으니까요.

M1 게성운의 세 가지 처리 비교: DBE만 적용, PI 네이티브 디컨볼루션, BXT 원클릭 완성

(BXT의 완전한 입문과 주의 사항은 별도의 전용 글이 있으므로, 여기서는 자세히 다루지 않겠습니다.)

노이즈 감소 도구 순례

NoiseXTerminator(NXT)

NXT는 현재 주류로 쓰이는 유료 AI 노이즈 감소 도구이며, 이 글에서도 여러 번 비교 기준으로 삼는 대상입니다. 그동안의 버전 변천은 AI 도구의 “지속적으로 반복 개선된다”는 특성을 잘 보여 줍니다.

별 문제(AI1 시기): 초기에 NXT를 쓸 때는, 마스크를 추가하지 않으면 RGB 별의 코어가 손상되고, 휘도 별의 중심에도 가벼운 Star Fade가 나타났습니다. 이 문제는 당시 해결책이 없었고, Russell은 Mac 플랫폼에서도 비슷한 상황이 있다고 언급했습니다. Windows도 분명 빠져나가지 못한 것이지요. 그래서 그 시기에 NXT를 쓰려면, 얌전히 스타 마스크와 함께 써야 했습니다.

NXT가 별 문제를 일으키는 예시

AI2로 업데이트(프로그램 1.1.4): 문제를 Russell에게 보고한 뒤, 이 버전에서 갱신된 새 모델에서는 RGB 별 코어에 가벼운 변색만 남고, 휘도 별 코어의 Star Fade는 사라졌습니다. NXT를 쓰고 있는 분들께는, 당시 되도록 빨리 업데이트하시길 권했습니다.

NXT 1.1.4 AI2 업데이트 전후의 별 상태 비교

다시 AI3로 진화: 새 버전 AI3는 고주파의 노이즈 감소에서는 확실히 개선이 있지만, 중주파와 컬러 노이즈 처리는 평범한 수준으로 보입니다. 선형 상태에서 밝은 별에 미치는 영향은 여전히 남아 있으나, 크게 줄었습니다. 요약하면—NXT를 산 분들은 업그레이드를 잊지 마시길. AI3의 전체적인 성능은 확실히 AI2보다 낫습니다.

NXT AI3와 AI2의 노이즈 감소 효과 비교

DeepSNR

StarNet 제작자 Nikita Misiura가 개발한 차세대 천체 이미지 AI 노이즈 감소 도구입니다. 현재는 컬러 이미지만 지원하며, 반드시 PixInsight 안에서 실행해야 합니다. 시중의 직접적인 경쟁 상대는 바로 NXT입니다.

간단한 비교를 하나 해 보았습니다. 선형 상태에서의 결과로 보면, 왼쪽부터 순서대로 원본 이미지, NXT 결과, DeepSNR 결과입니다. 보아하니 DeepSNR의 결과물은 상당히 우수합니다. 또 하나의 큰 장점은—DeepSNR가 현재 무료라는 점입니다.

NXT와 DeepSNR의 선형 상태에서의 노이즈 감소 결과 비교

이후의 실제 테스트에서는, NXT와 DeepSNR 모두 사실 아주 잘해 냈고, 두 결과물을 Blink로 비교해 봐도 이제는 구체적인 차이를 거의 알아보기 어려웠습니다. 여기서 실무적인 판단도 하나 나옵니다: 휘도 채널은 강도를 더 높여야 할까요? 저는 그럴 필요 없다고 봅니다—이 정도 S/N 비라면, 선형 단계는 딱 스위트 스폿쯤입니다. RGB는 조금 더 밀어붙여도 되지만, 저는 비선형 단계를 위해 여지를 조금 남겨 두는 편입니다.

NXT와 DeepSNR의 결과물을 Blink로 비교해도 이제 우열을 가리기 어렵다

Adobe CRF Denoise의 한 가지 특별한 장점

마지막으로 일반 사진의 상황을 하나 덧붙입니다. 하드디스크에서 DSLR로 찍은 별하늘 원본 파일(30초 노출)을 하나 캐냈는데, 원본에 핫 픽셀(그 빨갛고 초록빛 도는 점들)이 많았습니다. 보통은 다크를 빼고 Cosmetic Correction으로 그것들을 없애지만, Adobe의 CRF Denoise를 적용하자 핫 픽셀이 곧바로 사라졌습니다. 반면 NXT는 노이즈만 없애고 핫 픽셀은 남겨 두었습니다.

따라서 일반 사진을 하면서 다크를 찍지 않는 분들에게는, CRF Denoise의 이 장점이 확실히 드러납니다.

DSLR 별하늘 원본 파일에 CRF Denoise와 NXT를 적용했을 때 핫 픽셀 처리에서의 차이

마무리

AI 노이즈 감소는 최근 몇 년 사이 빠르게 발전했고, 도구도 한 가지만 있는 게 아닙니다. NXT는 성숙하고 꾸준히 반복 개선되며, DeepSNR는 무료에다 쓰기 좋고, CRF는 다크가 없는 상황에서 나름의 절묘한 쓸모가 있습니다. 어느 것이 “가장 강한가”에 집착하기보다는, 두 가지 원칙을 기억하는 편이 낫습니다—마스크를 잘 활용할 것, 그리고 선형 단계에서는 뒤 공정을 위해 여지를 조금 남겨 둘 것. 노이즈 감소는 무겁게 걸수록 좋은 게 아닙니다. 그 스위트 스폿을 찾아내는 것이야말로 실력입니다.