[논문 리뷰] High-Performance Large-Scale Image Recognition Without Normalization

“High-Performance Large-Scale Image Recognition Without Normalization”(Brock et al., ICML 2021) 논문을 학술 및 실무 관점에서 면밀히 분석하고 정리한 리뷰다. 컴퓨터 비전의 사실상 표준(de facto standard)이었던 배치 정규화(Batch Normalization)의 의존성을 제거한 채, ImageNet에서 SOTA를 달성하고 학습 처리량을 크게 개선한 NFNet(Normalizer-Free Network)의 핵심 원리를 탐구한다.

본 논문은 배치 정규화가 제공하던 학습 안정화 효과를 정밀하게 분석하고, 이를 대체할 아키텍처적 장치와 적응형 클리핑 기법을 제안함으로써 대규모 비전 모델 학습의 새로운 지평을 열었다.

선행 연구 흐름

1. Batch Normalization Biases Residual Blocks towards the Identity Function in Deep Networks (De and Smith, NeurIPS 2020) ¹
2. Characterizing Signal Propagation to Close the Performance Gap in Unnormalized ResNets (Brock et al., ICLR 2021) ²
3. High-Performance Large-Scale Image Recognition without Normalization (Brock et al., ICML 2021, 본 논문) ³

논문 원문: https://arxiv.org/abs/2102.06171

1. Introduction

현대 컴퓨터 비전 아키텍처는 대부분 배치 정규화(Batch Normalization)와 결합된 심층 잔차 네트워크(Deep Residual Network)의 변형을 기반으로 발전해 왔다. 배치 정규화는 손실 지형(loss landscape)을 매끄럽게 평활화하여, 대규모 배치 크기(batch size)와 높은 학습률(learning rate) 환경에서도 수렴 안정성을 보장하는 핵심 촉매 역할을 담당했다.

그러나 배치 정규화가 왜 필수적인지, 그리고 이를 제거했을 때 발생하는 병목이 구체적으로 무엇인지를 파악하려면 배치 정규화의 작동 메커니즘을 먼저 짚고 넘어가야 한다.

• 내부 공변량 변화(Internal Covariate Shift): 훈련 과정에서 네트워크 가중치가 지속적으로 갱신됨에 따라 심층 레이어의 내부 노드 분포(distribution)가 요동치는 현상이다. ⁴
  • 규제 기저가 없으면 가중치 크기가 제멋대로 발산하여 매개변수 변동 폭이 지나치게 커진다.
• 공변량 변화(Covariate Shift): 학습 데이터셋과 테스트 데이터셋 간의 데이터 분포가 일치하지 않는 현상을 뜻하며, 심층망 내부에서는 레이어 간 입력 분포의 불일치로 발현된다.

배치 정규화 연산 흐름 (이미지 출처: ⁵)

배치 정규화의 내부 연산은 크게 네 단계로 구분된다.

• 미니배치 평균(mini-batch mean): 현재 미니배치 내 각 채널의 평균을 계산한다.
• 미니배치 분산(mini-batch variance): 현재 미니배치 내 각 채널의 분산을 산출한다.
• 정규화(normalize): 산출된 미니배치 평균과 분산을 이용해 활성화 분포를 평균 0, 분산 1로 스케일링하여 입력값의 발산을 제어한다.
• 스케일 및 시프트(scale and shift): 학습 가능한 파라미터 $\gamma$와 $\beta$를 통해 가중치 $W$의 표현력을 복원하고 과적합(overfitting)을 방지한다. ⁴

배치 정규화는 단순한 정규화 도구를 넘어 손실 지형을 평활화하여 최적화 안정성을 높였다.

2. Pros (BN)

정규화 계층 없이 안정적으로 심층망을 훈련하려면, 배치 정규화가 제공하던 장점을 공학적으로 분해하고 각각에 대응하는 대체재를 마련해야 한다. 저자들은 배치 정규화의 핵심 이점을 네 가지 축으로 규명한다.

2.1 Batch normalization downscales the residual branch

스킵 연결(skip connections)과 배치 정규화의 결합은 수천 개 레이어에 달하는 초심층망의 학습을 가능하게 만든 일등 공신이다. 잔차 경로(residual branch)에 배치된 정규화 레이어는 초기화 시점의 은닉 활성화 규모(scale)를 효과적으로 축소한다.

이로 인해 순전파 신호가 항등 스킵 경로(identity skip path)로 편향되며, 네트워크 초기 단계에서 그래디언트가 손실 없이 전파되어 안정적이고 빠른 수렴을 달성할 수 있다.

잔차 브랜치 억제가 초심층망 안정성의 본질이었다.

• 대체 전략: SkipInit 도입 ¹ 또는 신호 전파 이론 기반의 NF 전략 적용 ².

  2.2 Batch normalization eliminates mean-shift

ReLU나 GELU처럼 원점 대칭이 아닌(non-anti-symmetric) 비선형 활성화 함수는 본질적으로 0이 아닌 양수 평균 활성화를 유발한다.

비선형 레이어를 거친 후 서로 다른 독립 훈련 샘플들의 활성화 벡터 간 내적(inner product)은, 초기 입력 특징 간의 내적이 0에 가깝더라도 일반적으로 큰 양수 값을 형성하게 된다. 깊이가 깊어질수록 단일 채널 내 평균 이동(mean-shift)이 누적되며, 심층망이 초기화 시 모든 입력 샘플에 대해 사실상 동일한 출력 레이블을 예측하는 치명적인 표현력 붕괴를 초래한다. 배치 정규화는 배치 단위로 각 채널의 평균을 강제로 0으로 만들어 이러한 누적 평균 이동을 원천 제거한다.

• 대체 전략: 가중치 행렬을 정규화하는 Scaled Weight Standardization 적용.

  2.3 Batch normalization has a regularizing effect

배치 정규화는 훈련 샘플들의 전체 분포가 아니라 미니배치 부분 집합(subset)에서 계산된 통계치를 활용하기 때문에, 순전파 신호에 확률적 노이즈(stochastic noise)가 불가피하게 주입된다.

역설적으로 이러한 배치 통계치 노이즈는 일종의 정규화 기법(regularizer) 역할을 수행하여 일반화 성능과 테스트 세트 정확도를 끌어올린다. 실무적으로는 배치 크기를 미세 조정하거나 분산 학습 환경에서 Ghost Batch Normalization을 적용해 정규화 강도를 조율해 왔다.

• 대체 전략: 드롭아웃(Dropout), 스토캐스틱 뎁스(Stochastic Depth) 등 명시적 정규화(Explicit regularization) 도입.

  2.4 Batch normalization allows efficient large-batch training

배치 정규화는 손실 곡면(loss landscape)의 립시츠 연속성을 완화하고 급격한 곡률을 억제하여 최대 허용 학습률(maximum stable learning rate)을 큰 폭으로 높인다.

작은 배치 크기에서는 이 효과가 두드러지지 않지만, 수천 단위의 대규모 배치로 수평 확장할 때는 높은 학습률이 필수적이다. 배치 정규화 덕분에 여러 가속기에 걸쳐 대규모 분산 데이터 병렬 훈련을 고속으로 수행할 수 있었다.

• 대체 전략: 그래디언트 폭발을 방지하는 Adaptive Gradient Clipping (AGC) 도입.

  3. Cons (BN)

배치 정규화의 성능 이면에는 대규모 딥러닝 시스템의 확장성을 가로막는 세 가지 본질적인 병목이 도사리고 있다.

배치 정규화의 핵심 한계:

• 계산 및 메모리 오버헤드: 순전파와 역전파 모두에서 미니배치 통계량을 계산하고 저장해야 하므로 추가적인 메모리 대역폭을 소모하며 그래디언트 연산 시간을 유의미하게 증가시킨다.
• 훈련-추론 불일치(Train-Test Inconsistency): 훈련 시점의 미니배치 통계치와 추론 시점의 이동 평균(running statistics) 사이의 분포 괴리가 발생하며, 이동 평균 갱신을 위한 모멘텀 하이퍼파라미터 튜닝 부담을 초래한다.
• 배치 간 독립성 훼손: 동일 미니배치에 속한 샘플들 사이에 인위적인 상관관계가 유발되어 독립 샘플 가정이 깨진다. 특히 하드웨어 디바이스 간 통계치 동기화가 불완전하여 분산 학습 환경에서 미세한 오차가 발생하며, 대조 학습(contrastive learning) 등에서는 배치 내 정보 누출(information leakage)을 방지하기 위한 복잡한 트릭이 요구된다.

배치 통계치의 불안정성은 곧 모델의 신뢰성 저하로 직결된다.

또한 미니배치 크기가 지나치게 작을 경우 추정된 분산의 오차가 극대화되어 치명적인 성능 저하가 발생한다.

Other works without using BN

배치 정규화의 한계를 극복하기 위해 정규화 레이어를 제거한 채 심층 잔차 네트워크를 훈련하려는 다양한 연구가 진행되어 왔다.

기존 연구들은 크게 두 가지 접근법을 시도했다.

• 가변 스칼라 도입: 0으로 초기화된 학습 가능한 스칼라 파라미터를 각 잔차 브랜치 끝에 배치하여 초기화 시 잔차 신호의 전파를 억제하는 방식.
• 평균 이동 제어: 활성화 함수에 의한 평균 이동을 수학적으로 보정하여 심층 레이어로 갈수록 은닉 활성화 벡터들이 서로 과도하게 상관(correlate)되는 문제를 방지하는 방식.

그러나 이러한 선행 기법들은 배치 정규화 기반 SOTA 모델에 비해 최종 정확도가 현저히 뒤처지거나, 배치 크기가 커질수록 극심한 수렴 불안정을 보이며 실용화에 도달하지 못했다.

결국 관건은 대규모 배치에서도 붕괴되지 않는 새로운 수렴 장치였다.

Contribution of this paper (NFNet)

NFNet은 이러한 한계를 극복하고 배치 정규화의 모든 이점을 온전히 대체하기 위해 세 가지 핵심 공학적 기여를 제시한다.

• 수정된 잔차 구조 및 스케일 가중치 표준화(Scaled Weight Standardization): 신호 전파 이론(Signal Propagation Theory)에 입각하여 잔차 블록의 분산 증가를 억제하고, 합성곱 계층에 가중치 표준화를 적용해 은닉 활성화의 평균 이동 현상을 제거한다.
• 적응형 그래디언트 클리핑(Adaptive Gradient Clipping, AGC) 제안: 가중치 노름 대비 그래디언트 노름의 단위별 비율(unit-wise ratio)에 기반하여 그래디언트를 정밀하게 클리핑함으로써, 거대 배치 크기와 강한 데이터 증강(Data Augmentation) 환경에서도 안정적인 학습을 실현한다.
• NFNet (Normalizer-Free ResNets) 패밀리 구축:
  • NFNet-F1: EfficientNet-B7과 대등한 84.7% top-1 정확도를 유지하면서도 약 8.7배 빠른 훈련 속도를 달성.
  • NFNet-F5: 단일 모델 86.0% top-1 검증 정확도로 당시 이전 SOTA였던 EfficientNet-B8을 능가.
  • 대규모 사전 학습: 3억 장의 대규모 자체 레이블 데이터셋으로 사전 훈련 후 ImageNet 미세 조정(fine-tuning)을 거쳐 89.2% top-1 정확도 달성.

4. Towards Removing Batch Normalization

배치 정규화 계층을 제거하기 위해서는 순전파 과정에서 신호의 분산이 레이어를 통과함에 따라 지수적으로 폭발하지 않도록 통제해야 한다. 저자들은 신호 전파 이론을 도입하여 각 잔차 블록의 분산을 일정하게 유지하는 정밀한 스케일링 체계를 구축한다. ²

기본 잔차 블록 수식은 다음과 같이 정식화된다.

\[h_{i+1} = h_i + \alpha f_i(h_i / \beta_i)\]

• $h_i$: $i$번째 잔차 블록의 입력 신호
• $f_i$: $i$번째 잔차 브랜치에서 계산되는 합성곱 및 활성화 변환 함수 ($\text{Var}(f_i(z)) = \text{Var}(z)$)
• $\alpha$: 잔차 경로 활성화 변동의 스케일 비율
• $\beta_i$: $i$번째 블록의 입력 신호 분산을 기반으로 결정되는 입력 표준편차 예측값

\[\beta_i = \sqrt{\text{Var}(h_i)}, \quad \text{where} \quad \text{Var}(h_{i+1}) = \text{Var}(h_i) + \alpha^2\]

동시에 비선형 활성화에 따른 은닉 특징의 평균 이동(mean-shift)을 억제하기 위해 합성곱 계층의 가중치 행렬에 스케일 가중치 표준화(Scaled Weight Standardization)를 적용한다.

\[\hat W_{ij} = \frac{W_{ij} - \mu_i}{\sqrt{N}\sigma_i}\]

• $\mu_i = \frac{1}{N}\sum_j W_{ij}$ : 가중치 행의 평균
• $\sigma_i^2 = \frac{1}{N}\sum_j (W_{ij} - \mu_i)^2$ : 가중치 행의 분산
• $N$: fan-in (입력 채널 수 $\times$ 커널 가로 $\times$ 커널 세로)
• $\gamma = \sqrt{2 / (1 - \frac{1}{\pi})}$: ReLU의 비선형 스칼라 이득(non-linearity scalar gain)

여기에 배치 정규화의 암묵적 정규화 효과를 대체하기 위해 드롭아웃(Dropout) 및 스토캐스틱 뎁스(Stochastic Depth)를 명시적으로 결합했다.

그러나 이러한 아키텍처적 보정만으로는 미니배치 크기가 1024 수준에서는 원활히 작동했으나, 4096 이상의 초대형 배치 환경에서는 여전히 수렴이 깨지거나 학습이 발산하는 문제가 잔존했다.

구조적 보정 너머, 최적화 자체의 방화벽이 필요했다.

5. Adaptive Gradient Clipping for Efficient Large-Batch Training

초대형 배치 환경에서 학습이 붕괴되는 근본 원인은 가파른 손실 곡면에서 발생하는 비정상적으로 거대한 그래디언트 업데이트에 있다. 이를 차단하기 위해 저자들은 가중치 규모에 맞춰 그래디언트를 유연하게 제한하는 적응형 그래디언트 클리핑(Adaptive Gradient Clipping, AGC)을 제안한다.

전통적인 그래디언트 클리핑(Gradient Clipping)은 경사 하강법이 가파른 절벽 지형에서 손실이 폭발하지 않도록 규제하는 표준적인 수단이다. ⁶

손실 절벽에서의 그래디언트 클리핑 동작 원리 (이미지 출처: ⁷)

기존의 표준적인 그래디언트 클리핑은 전체 파라미터 벡터의 $L_2$ 노름을 기준으로 일괄 제한한다.

• $G = \partial L / \partial \theta$: 전체 파라미터에 대한 그래디언트 벡터
• $L$: 손실 함수 (loss)
• $\theta$: 네트워크 파라미터 벡터
• $\lambda$: 클리핑 임계값 (clipping threshold)

그러나 네트워크 전체에 단일 임계값 $\lambda$를 적용하는 방식은 훈련 안정성이 하이퍼파라미터 튜닝에 극도로 민감해지는 문제를 낳는다. 특히 레이어마다 가중치의 스케일과 그래디언트 크기가 천차만별이므로 전역 클리핑은 비효율적이다.

이를 극복하기 위해 제안된 Adaptive Gradient Clipping (AGC)은 단위 파라미터 행(unit-wise) 단위로 가중치 노름과 그래디언트 노름의 비율을 계산하여 국소적으로 클리핑을 수행한다.

• $G^l$: 레이어 $l$의 가중치 $W^l$에 대응하는 그래디언트 행렬
• $|W^l|F = \sqrt{\sum_i^N \sum_j^M (W{i,j}^l)^2}$: 프로베니우스 노름(Frobenius norm)
• $|W_i|_F^* = \max(|W_i|_F, \epsilon)$: 0으로 나누는 것을 방지하기 위한 하한값
• $\epsilon = 10^{-3}$: 미소 상수

AGC를 적용함으로써 노멀라이저 프리 네트워크에서도 4096에 달하는 대규모 배치 크기와 강한 데이터 증강 기법을 결합했을 때 그래디언트 폭발 없이 안정적으로 수렴시킬 수 있게 되었다.

5.1 Ablations for Adaptive Gradient Clipping (AGC)

AGC의 효과를 실증하기 위해 저자들은 아키텍처 블록 디자인과 클리핑 메커니즘 간의 상호작용을 체계적으로 검증했다.

NFNet Bottleneck Block의 구조적 요약

위 구조도는 Scaled Weight Standardization과 AGC가 결합된 NFNet의 병목 블록(bottleneck block) 설계를 나타낸다. 잔차 브랜치의 활성화 정규화 없이도 각 계층의 분산과 그래디언트 비율이 수식에 따라 안정적으로 통제됨을 확인할 수 있다.

6. Experiments

NFNet 패밀리는 ImageNet 분류 벤치마크에서 기존의 배치 정규화 기반 모델들과 비교하여 높은 훈련 처리량과 검증 정확도를 입증했다.

실험 결과 핵심 지표:

• NFNet-F5의 SOTA 달성: MaxUp 데이터 증강을 적용한 NFNet-F5는 86.0%의 top-1 검증 정확도를 기록하며, 당시 최고 성능이었던 EfficientNet-B8을 추월하고 새로운 SOTA를 수립했다.
• NFNet-F1의 학습 처리량 개선: NFNet-F1은 RandAugment(RA) 설정에서 84.7%의 top-1 검증 정확도를 달성하며, 동일한 84.7% 정확도를 갖는 EfficientNet-B7 대비 TPUv3 기준 8.7배 빠른 훈련 속도(스텝당 지연 시간 기준)를 달성했다.

정규화 계층의 제거가 속도와 성능 모두의 도약을 이끌어냈다.

7. 핵심 요약 및 시사점

NFNet은 배치 정규화가 제공하던 네 가지 핵심 기능을 이론과 실증 양면에서 분해하고 정규화 계층 없는 아키텍처로 재구성한 구조다.

• 잔차 브랜치 억제(Downscale Residual Branch): 정규화 대신 SkipInit 또는 신호 전파 이론 기반의 NF 잔차 스케일링($\alpha$, $\beta_i$)으로 초기 잔차 경로의 분산 폭발을 제어했다.
• 평균 이동 방지(Prevent Mean-shift): 활성화 함수의 누적 오프셋을 막기 위해 합성곱 계층에 Scaled Weight Standardization을 도입했다.
• 명시적 규제 전환(Implicit to Explicit Regularization): 배치 통계량의 우발적 노이즈 대신 Dropout, Stochastic Depth, 강한 데이터 증강을 명시적으로 주입했다.
• 초대형 배치 최적화(Enable Large-batch Training): 손실 곡면의 불안정성을 전역 클리핑 대신 파라미터 단위 비율 기반의 적응형 클리핑(AGC)으로 안정화했다.

이러한 접근법은 정규화 레이어가 딥러닝 아키텍처의 필수 불가결한 요소가 아니라, 신호 전파와 그래디언트 다이내믹스가 정밀하게 제어된다면 생략될 수 있음을 보였다. 특히 분산 학습 시 통계치 동기화 병목이나 훈련-추론 불일치 문제로 고통받는 대규모 시스템 설계에 시사점을 준다.

Conclusion ³

배치 정규화의 핵심 역할과 NFNet의 대응 전략을 요약하면 다음과 같다.

• Downscales the residual branch $\rightarrow$ SkipInit or NF Strategy
• Prevent mean-shift $\rightarrow$ Scaled Weight Standardization
• Implicit regularization $\rightarrow$ Explicit regularization
• Enable large-batch training $\rightarrow$ Adaptive Gradient Clipping

이로써 정규화 계층이 배제된 아키텍처로도 대규모 비전 인식 모델을 안정적이고 빠른 처리량으로 훈련할 수 있는 경로가 마련되었다.

8. 한계 및 트레이드오프 (Limitations & Trade-offs)

1. 명시적 정규화 및 데이터 증강 의존성: 배치 정규화 특유의 확률적 노이즈(암묵적 정규화)가 제거되므로, ImageNet 규모의 훈련에서는 Dropout, Stochastic Depth, 그리고 고강도 데이터 증강(RandAugment, MixUp, CutMix)을 결합하지 않을 경우 과적합 위험이 증가한다.
2. 최적화 하이퍼파라미터 결합도: 적응형 그래디언트 클리핑(AGC)의 클리핑 임계값($\lambda$)은 학습률 웜업 스케줄, Nesterov 모멘텀 계수, 배치 크기와 밀접하게 결합되어 있어, 다른 비전 태스크나 모델 크기에 적용할 때 세심한 하이퍼파라미터 탐색이 요구된다.
3. 훈련 지연시간 대 파라미터·FLOPs 트레이드오프: NFNet은 가속기 상의 훈련 처리량(초당 스텝 수) 최적화에 주력하여 설계되었기 때문에, 동일한 검증 정확도를 갖는 EfficientNet 대비 파라미터 수와 FLOPs 규모가 크다. 따라서 연산 메모리나 FLOPs가 엄격히 제약된 모바일·엣지 디바이스 추론 환경에서는 추가적인 경량화 기법이 필요하다.
4. 밀집 $1\times 1$ 합성곱에 대한 구조적 제약: 채널 간 정보 교환을 담당하는 $1\times 1$ 합성곱을 그룹화하거나 DCT 기반 공격적 다운샘플링을 적용할 경우 모델 표현력과 정확도가 저하되므로, 고밀도 $1\times 1$ 연산 의존성을 유지해야 하는 구조적 한계가 존재한다.

   Appendix

• NFNet 모델은 수정된 SE-ResNeXt-D 버전이다.
• 입력 데이터 : $H\times W\times C(RGB)$
  • 전체 ImageNet 학습 데이터셋에서 채널당 평균/표준 편차로 정규화됨

References

1. Soham De, Samuel L. Smith. “Batch Normalization Biases Residual Blocks towards the Identity Function in Deep Networks.” Advances in Neural Information Processing Systems (NeurIPS 2020), 33:19925-19935. arXiv:2002.10444 ↩ ↩²

2. Andrew Brock, Soham De, Samuel L. Smith. “Characterizing Signal Propagation to Close the Performance Gap in Unnormalized ResNets.” International Conference on Learning Representations (ICLR 2021). arXiv:2101.08692 ↩ ↩² ↩³

3. Andrew Brock, Soham De, Samuel L. Smith, Karen Simonyan. “High-Performance Large-Scale Image Recognition Without Normalization.” Proceedings of the 38th International Conference on Machine Learning (ICML 2021), PMLR 139:1059-1071. arXiv:2102.06171 ↩ ↩²

4. 10. Batch Normalization (배치 정규화) - Time Traveler ↩ ↩²

5. Sergey Ioffe, Christian Szegedy. “Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift.” Proceedings of the 32nd International Conference on Machine Learning (ICML 2015), PMLR 37:448-456. arXiv:1502.03167 ↩

6. Razvan Pascanu, Tomas Mikolov, Yoshua Bengio. “On the difficulty of training recurrent neural networks.” Proceedings of the 30th International Conference on Machine Learning (ICML 2013), PMLR 28(3):1310-1318. arXiv:1211.5063 ↩

7. Understanding Gradient Clipping (and How It Can Fix Exploding Gradients Problem) - Neptune.ai ↩