메모리 제조 회사는 돈을 쓸어담고 있다#

삼성전자, SK하이닉스, 마이크론은 세계 3대 메모리 제조회사입니다.
DRAM을 제조 및 판매하여 큰 영업이익을 얻고있죠.
25년 12월 기준 DRAM 수요가 폭증하여 없어서 못 파는 상황이라고 합니다.
즉, DRAM 제조사는 돈을 쓸어 담고 있으며 이 추세는 당분간 지속 될 것으로 전망하고 있습니다.
도대체 DRAM이 무엇이길래 갑자기 수요가 폭증했을까요?
그 이유를 알려드리겠습니다.

DRAM 간단히 알아보기#

컴퓨터가 동작하기 위해서 연산장치(CPU)와 저장장치가 꼭 필요합니다.
저장장치에는 대표적으로 SSD같은 비휘발성 저장장치(Storage)와 DRAM같은 휘발성 저장장치가 있습니다.
둘 다 데이터를 저장하려는 목적으로 사용되지만 컴퓨터 내부에서의 쓰임새는 꽤 다릅니다.

먼저, SSD같은 Storage의 쓰임새는 일반적으로 잘 알고 있듯이 파일을 저장하는 용도입니다.
컴퓨터 전원을 꺼도 데이터는 보존되므로 비휘발성 저장장치라고 합니다.

반면, DRAM의 쓰임새는 정확히 모르는 분들이 많을 것 같아 핵심 개념을 설명드리겠습니다.
우리가 메모장 같은 프로그램을 실행하면 어떤 일이 일어날까요?
Storage에 저장된 메모장 파일의 내용이 DRAM에 올라갑니다(복사됩니다).
그리고 CPU는 Storage에 있던 메모장 프로그램을 처리하는 것이 아니라, DRAM으로 복사된 메모장 프로그램을 처리하게 됩니다.
즉, CPU는 Storage에 저장된 파일을 바로 처리하지 않고, DRAM으로 올린 후 DRAM에 접근하여 처리합니다.
이처럼 컴퓨터에서 실행중인 대부분의 프로그램은 DRAM에 올려져 있다고 보시면 됩니다.

왜 DRAM에 올린후 처리하는 것일까요?
그 이유는 처리 속도 때문입니다.
근래에 SSD는 7Gb/s 정도의 대역폭을 가지고, DRAM은 50Gb/s 정도의 대역폭을 가지므로 DRAM이 훨씬 빠릅니다.
CPU의 빠른 처리 속도를 Storage가 따라가지 못하기 때문에,
CPU와 Storage 사이에서 완충 역할을 하여 Storage의 bottleneck을 DRAM이 어느정도 해소 한다고 보면 됩니다.
이것이 컴퓨터에서 DRAM의 기본적인 쓰임새 입니다.

DRAM은 왜 많이 필요한가?#

최근 5년간 가장 많이 발전한 기술을 꼽으라면 AI일 것입니다.
특히, 2022년에 ChatGPT를 시작으로 LLM(Large Language Model) 기술을 활용한 AI 시대가 열렸습니다.
이제 AI는 우리의 일상 생활에 스며들기 시작했습니다.
문서, 디자인, 의료, 연구, 코딩, 음악 작업 등등 수 많은 분야에서 AI는 이미 활용되고 있습니다.

이런 Large Model기반 AI는 용량이 큰 소프트웨어 입니다.
ChatGPT의 GPT4는 700GB 이상일 것으로 추측하고 있습니다.
요즘, 일반적인 데스크탑은 32~64GB정도의 DRAM을 사용할 것입니다.
이런 컴퓨터는 DRAM 용량이 부족하므로 700GB가 넘는 GPT4 Model을 실행조차 할 수 없습니다.
이렇게 용량이 큰 소프트웨어를 실행하기 위해서는 고용량의 DRAM이 반드시 필요합니다.

그리고, AI를 처리하기 위해서는 아주 빠른 연산능력이 필요합니다.
일반적인 컴퓨터로는 처리하기 어렵고 GPU라 불리는 병렬연산에 특화된 장치를 사용하는데 이곳에 DRAM이 많이 필요합니다.
이런 병렬연산에 특화된 장치가 있어야 AI 소프트웨어를 원활하게 실행할 수 있습니다.

AI를 활용하는 수요가 계속 늘고 있고, 이런 AI 수요를 감당하기 위해서는 GPU같은 장치가 매우 많이 필요합니다.
현재는 수요 대비 공급이 턱없이 부족합니다.
이러한 이유로 AI를 구동할 수 있는 GPU 수요가 폭증했고 여기에 힘입어 DRAM 수요까지 폭증한 것입니다.

번외로, 고사양 GPU는 일반적인 DRAM이 아니라 고속/고용량의 HBM이라는 특별한 DRAM을 사용합니다.
HBM은 DRAM 여러개를 쌓아서 하나의 칩으로 패키징하고 수천개의 IO핀을 제공하는 제품입니다.
요즘은 DRAM을 12단이상 쌓고 있습니다
즉, 이런 HBM하나 팔면 레거시 DRAM 12개 파는셈입니다.
그런데, HBM은 만들기 어려운 제품이라 아직은 수요에 비해 공급이 부족합니다.
그래서 아주 비싸게 판매됩니다.

정리#

• 소프트웨어는 DRAM으로 복사된 뒤에 처리된다.
• LLM기반 AI는 용량이 큰 소프트웨어이다.
• 이런 대용량 AI도 소프트웨어이므로 DRAM이 있어야 실행될 수 있다.
• AI 활용 수요는 계속 증가하고 있다.
• 이에 따라 DRAM의 수요도 증가하고 있다.
• DRAM의 수요 대비 공급이 부족하다.
• 따라서, DRAM의 가격이 상승하고 있다.