딥시크(DeepSeek), AI 훈련 비용을 극적으로 줄인 비결은?

인공지능(AI) 모델을 훈련하는 데는 엄청난 비용이 든다. 특히, 대형 AI 모델을 개발하는 기업들은 엔비디아(NVIDIA)와 같은 고성능 칩 제조업체의 하드웨어에 의존하면서 막대한 GPU 비용을 감당해야 한다. 하지만 중국의 AI 스타트업 **딥시크(DeepSeek)**는 기존 방식과 차별화된 전략을 통해 AI 모델의 훈련 비용을 극적으로 절감했다.

그렇다면 딥시크는 어떻게 이런 혁신을 이루었을까? 오늘은 딥시크가 AI 트레이닝 비용을 줄일 수 있었던 핵심 전략을 살펴보겠다.

---

1. 값비싼 엔비디아 GPU 대신, 화웨이 칩 활용

AI 모델을 훈련하는 과정에서 가장 많은 비용이 드는 부분이 바로 **하드웨어(GPU)**이다. 현재 대부분의 AI 기업들은 엔비디아의 A100 또는 H100 GPU를 사용하고 있는데, 이들 칩은 성능이 뛰어난 대신 가격이 매우 비싸다.

그러나 딥시크는 엔비디아 GPU 대신, 화웨이의 '어센드(Ascend) 910B' 칩을 활용했다.

✔ 어센드 910B vs. 엔비디아 A100 비교

• 성능: A100 대비 약 80% 수준
• 가격: A100의 30% 수준

즉, 화웨이의 칩은 다소 성능이 낮지만 가격이 훨씬 저렴하기 때문에, 이를 대량으로 사용하여 훈련 비용을 크게 줄이는 효과를 얻었다.

이러한 전략은 엔비디아의 독점적 GPU 시장 구조를 피하면서, 비용 효율적인 AI 훈련이 가능하도록 만들었다.

---

2. MoE(Mixture-of-Experts) 아키텍처 도입

딥시크는 하드웨어뿐만 아니라 AI 모델 구조 자체를 최적화하여 연산 비용을 절감했다. 그중 가장 핵심적인 기술이 바로 MoE(Mixture-of-Experts, 전문가 혼합) 아키텍처이다.

✔ MoE란?
MoE는 여러 개의 **전문가 모델(Expert Models)**을 하나의 큰 AI 모델 안에 포함시키는 방식이다.

• 기존 AI 모델은 모든 데이터를 전체 모델이 처리하지만,
• MoE 모델은 특정 작업에 적합한 전문가 모델만 활성화하여 연산을 수행한다.

✔ MoE의 효과

• 불필요한 연산을 줄여 속도를 향상
• 필요한 연산만 수행해 GPU 사용량 감소
• 전력 및 메모리 소비 최적화

이 방식 덕분에 딥시크는 모델 훈련 시 GPU 리소스를 효율적으로 활용할 수 있었고, 이를 통해 비용 절감 효과를 극대화했다.

---

3. 숫자 정밀도 최적화 (Low Precision Training)

AI 모델을 학습할 때, 데이터는 소수점 단위까지 정밀하게 처리된다. 예를 들어, 기존 AI 모델은 대부분 **FP32(소수점 32자리, 32비트 부동소수점)**을 사용한다. 하지만 딥시크는 더 낮은 정밀도의 데이터 타입을 사용하여 연산량을 줄였다.

✔ 정밀도 최적화의 핵심

• 필요한 연산 정확도를 유지하면서도, 연산 부담을 줄이는 방식
• FP16(16비트 부동소수점)이나 INT8(8비트 정수) 등을 활용
• 메모리 사용량을 줄이고 처리 속도를 높임

즉, 불필요한 정밀도까지 계산하지 않고, AI 학습에 필요한 최소한의 정밀도로만 연산하여 시간과 비용을 대폭 절약했다.

---

딥시크의 혁신적인 AI 비용 절감 결과

이러한 전략 덕분에 딥시크는 약 500만 달러의 비용만으로 GPT-4 수준의 AI 모델을 개발할 수 있었다.

✔ 기존 AI 모델 훈련 비용 (GPT-4 수준 기준)

• 엔비디아 GPU 활용 시: 수천억 원 이상
• 딥시크 방식 적용 시: 약 500만 달러(약 66억 원)로 가능

즉, 딥시크는 기존 대비 수십 배 저렴한 비용으로 대형 AI 모델을 훈련하는 데 성공한 것이다.

---