양자화(Quantization)라는 말은 무엇인가? 다시정리 해 봅니다.

양자화(Quantization)란 무엇인가? 역사적 기원부터 최신 AI 기술까지

최근 인공지능(AI) 분야, 특히 거대언어모델(LLM)이 발전하면서 '양자화(Quantization)'라는 단어가 자주 등장합니다. 하지만 이 용어는 사실 물리학의 가장 깊은 곳에서 탄생하여, 디지털 통신을 거쳐 현재의 AI 경량화 기술로 이어진 유서 깊은 개념입니다. 연속적인 세상을 불연속적인 값으로 해석하는 '양자화'의 개념과 역사, 그리고 현재 기술 발전 상황을 알기 쉽게 정리해 드립니다.

 

목차

1. 양자화의 핵심 정의: 연속에서 불연속으로

2. 초기 역사: 물리학에서의 혁명 (1900년대)

3. 발전: 디지털 신호 처리의 시대

4. 현재: AI와 딥러닝에서의 양자화

5. 주요 양자화 기술 (PTQ vs QAT)

6. 미래 전망 및 요약

1. 양자화의 핵심 정의: 연속에서 불연속으로

양자화(Quantization)의 가장 기초적인 정의는 "연속적인 값(Analog)을 불연속적인 값(Digital/Discrete)으로 근사화하는 과정"입니다. 우리가 사는 세상은 소리, 빛, 온도 등 모든 것이 연속적으로 변하지만, 이를 컴퓨터나 수학적 모델로 다루기 위해서는 뚝뚝 끊어진 정해진 값으로 변환해야 합니다.

1) 쉬운 비유

미끄럼틀과 계단을 생각해보세요. 미끄럼틀은 높이가 연속적으로 변하지만(아날로그), 계단은 높이가 딱 정해진 칸으로 나뉘어 있습니다(디지털). 미끄럼틀을 계단 모양으로 바꾸는 작업이 바로 양자화입니다.

참고

양자화 과정에서는 필연적으로 '양자화 오차(Quantization Error)'가 발생합니다. 원본의 부드러운 곡선을 계단식으로 표현할 때 생기는 차이입니다.

2. 초기 역사: 물리학에서의 혁명 (1900년대)

양자화라는 개념이 인류 역사에 큰 충격을 준 첫 번째 사건은 물리학에서 일어났습니다. 1900년, 독일의 물리학자 막스 플랑크(Max Planck)는 흑체 복사 문제를 해결하기 위해 혁명적인 가설을 내놓습니다.

1) 에너지의 양자화

당시 고전 물리학에서는 에너지가 연속적인 흐름이라고 생각했습니다. 하지만 플랑크는 에너지가 덩어리(Quanta, 양자)로 이루어져 있으며, 불연속적인 값만 가질 수 있다고 가정했습니다. 이것이 바로 양자 역학(Quantum Mechanics)의 시작이었습니다.

이후 닐스 보어는 전자가 원자핵 주위를 돌 때 특정한 궤도(에너지 준위)에서만 존재할 수 있다는 '원자 모형'을 제시하며 양자화 개념을 확고히 했습니다.

3. 발전: 디지털 신호 처리의 시대

물리학에서 시작된 개념은 20세기 중반 정보 이론과 만나면서 **디지털 혁명**의 핵심이 됩니다. 아날로그 신호(목소리, 음악)를 컴퓨터가 이해할 수 있는 0과 1로 바꾸기 위해서는 샘플링(Sampling)과 양자화(Quantization) 과정이 필수적입니다.

• 샘플링: 시간을 잘게 쪼개는 것 (가로축 변환)
• 양자화: 신호의 크기를 정해진 비트(Bit) 수에 맞춰 근사값으로 매핑하는 것 (세로축 변환)

예를 들어 CD 음질인 16-bit 오디오는 소리의 크기를 2의 16승, 즉 65,536개의 단계로 쪼개서 저장하는 양자화 기술의 산물입니다.

4. 현재: AI와 딥러닝에서의 양자화

현재 양자화 기술이 가장 뜨겁게 논의되는 분야는 바로 **인공지능(AI)**입니다. 딥러닝 모델, 특히 ChatGPT와 같은 LLM은 수십, 수천억 개의 파라미터(매개변수)를 가지고 있어 엄청난 연산량과 메모리를 필요로 합니다.

1) 모델 경량화의 핵심

보통 AI 모델은 32비트 부동소수점(FP32)으로 학습됩니다. 정밀도는 높지만 용량이 큽니다. 이를 8비트 정수(INT8)나 심지어 4비트(INT4)로 줄이는 기술이 '모델 양자화'입니다.

왜 중요한가?

모델의 크기를 1/4 수준으로 줄이면, 거대한 서버가 아닌 일반 노트북이나 스마트폰에서도 고성능 AI를 구동할 수 있게 됩니다(On-Device AI).

5. 주요 양자화 기술 (PTQ vs QAT)

AI 모델 양자화는 크게 두 가지 접근 방식으로 나뉩니다.

1) 훈련 후 양자화 (PTQ, Post-Training Quantization)

이미 학습이 완료된 모델을 가져와서 파라미터만 줄이는 방식입니다. 빠르고 간편하지만, 정확도가 약간 떨어질 수 있습니다. 최근에는 정확도 손실을 최소화하는 알고리즘들이 많이 개발되었습니다.

2) 양자화 인식 훈련 (QAT, Quantization-Aware Training)

모델을 학습시키는 단계에서부터 "나는 나중에 양자화될 거야"라고 가정하고 학습하는 방식입니다. PTQ보다 구현이 어렵고 시간이 걸리지만, 양자화 후에도 높은 성능을 유지할 수 있습니다.

6. 미래 전망 및 요약

양자화 기술은 단순히 용량을 줄이는 것을 넘어, AI의 민주화를 이끄는 핵심 기술이 되고 있습니다. 엔비디아(NVIDIA), 인텔 등 주요 칩 제조사들은 하드웨어 레벨에서 INT8, INT4 연산을 가속화하는 NPU(신경망 처리 장치)를 탑재하고 있습니다.

앞으로는 양자화로 인한 성능 저하를 거의 느끼지 못하는 수준의 초경량, 초저전력 AI 모델들이 우리 일상 속 모든 기기에 탑재될 것입니다.

자주 묻는 질문 (FAQ)

Q1. 양자화를 하면 AI 성능(정확도)이 떨어지나요?

A1. 네, 이론적으로 정밀도가 낮아지므로 미세한 성능 저하가 발생할 수 있습니다. 하지만 최신 양자화 기술은 중요하지 않은 정보만 압축하여 사람이 체감하기 어려운 수준으로 성능을 방어합니다.

Q2. 물리학의 양자화와 컴퓨터의 양자화는 같은 건가요?

A2. '연속적인 것을 불연속적으로 나눈다'는 기본 원리는 같지만, 적용 분야가 다릅니다. 물리학은 자연계의 에너지 성질을 설명하는 것이고, 컴퓨터 공학은 데이터를 효율적으로 처리하기 위한 기술적 방법론입니다.

Q3. INT8 양자화가 무엇인가요?

A3. 기존 32비트(FP32)로 표현하던 숫자를 8비트 정수(INT8)로 변환하는 것입니다. 데이터 크기를 1/4로 줄여 메모리 사용량과 전력 소모를 획기적으로 낮춥니다.

출처

- Max Planck Institute for the History of Science

- NVIDIA Technical Blog (Deep Learning Quantization)

- Coursera: DSP & Information Theory

 

@ExoBrain