TechCrunch는 OpenAI의 CEO인 샘 알트먼(Sam Altman)이 GPU 부족에 직면해 있기 때문에 최신 모델인 GPT-4.5의 단계적 출시를 추진하고 있다고 보도했습니다. 이러한 하드웨어 제약은 AI 서비스에 대한 증가하는 수요를 충족하는 OpenAI의 능력에 상당한 영향을 미치고 있으며, 신제품 출시를 지연시키고 있습니다.
OpenAI의 GPU 부족
OpenAI는 GPU 부족 문제를 해결하고 Nvidia 하드웨어에 대한 의존도를 줄이기 위해 맞춤형 AI 칩을 적극적으로 개발하고 있습니다. 이 회사는 Broadcom과 협력하여 추론 칩을 설계하고 있으며, 이 칩은 TSMC에서 생산되어 2026년에 출시될 예정입니다. 이 움직임은 Amazon, Google, Microsoft와 같은 다른 거대 기술 기업들이 맞춤형 AI 프로세서를 개발하는 것과 맥을 같이 합니다.
이 계획을 지원하기 위해 OpenAI는 구글의 텐서 처리 장치(TPU) 프로젝트 전문가를 포함한 약 20명의 엔지니어 팀을 구성했습니다. 이 회사는 또한 미래의 AI 가속기를 위해 벤더와 협력할 하드웨어/소프트웨어 공동 설계 역할을 맡을 인재를 채용하고 있습니다. OpenAI는 처음에는 자체 반도체 공장을 짓는 것을 고려했지만, 높은 비용과 긴 일정 때문에 이 계획을 포기했습니다. 대신, 칩 설계와 기존 제조업체와의 협력에 집중하여 증가하는 AI 컴퓨팅 수요를 충족하는 데 주력하고 있습니다.
GPU 부족이 GPT-4.5 출시에도 영향을 미치고 있습니다.
OpenAI의 GPT-4.5 출시는 GPU 부족으로 인해 큰 영향을 받았고, 이로 인해 회사는 가장 비싼 구독 등급에 대한 액세스를 제한해야 했습니다. CEO 샘 알트먼이 “거대하다”고 “비싸다”고 묘사한 이 새로운 모델은 상당한 계산 자원을 필요로 하며, OpenAI는 입력에 대해 100만 토큰당 75달러, 출력에 대해 100만 토큰당 150달러를 부과하고 있습니다. 이는 이전 GPT-4 모델에 비해 각각 30배, 15배 증가한 수치입니다.
이 부족 현상을 해결하기 위해 OpenAI는 다음 주에 수만 개의 GPU를 추가할 계획이며, 이로 인해 차차 ChatGPT Plus 고객과 다양한 등급의 다른 사용자들에게도 접근성이 확대될 것입니다.
GPU 부족 현상은 AI 산업에서 더 큰 문제를 드러내고 있는데, 바로 고성능 칩에 대한 수요가 공급을 훨씬 초과하고 있다는 점입니다. 이러한 희소성은 비용 증가와 최첨단 AI 기술에 대한 접근성 제한으로 이어지고 있으며, 이는 혁신을 저해하고 AI의 혜택이 부유한 기업에 집중될 가능성을 높입니다. 이에 대응하여 일부 기업은 자체 AI 칩을 개발하거나 기존 하드웨어를 최적화하여 고가의 GPU에 대한 의존도를 줄이는 등 대체 솔루션을 모색하고 있습니다.
이에 대응하여 일부 기업은 자체 AI 칩을 개발하거나 기존 하드웨어를 최적화하여 고가의 GPU에 대한 의존도를 줄이는 등 대체 솔루션을 모색하고 있습니다.
TSMC의 AI 하드웨어 협업
반도체 제조 분야의 선도 기업인 TSMC가 AI 칩 제조 분야의 핵심 기업으로 부상했습니다. 이 회사는 첨단 AI 하드웨어에 대한 수요 증가에 대응하기 위해 주요 AI 기업들과 전략적 파트너십을 맺었습니다. 특히, OpenAI는 Nvidia에 대한 의존도를 줄이고 향후 몇 달 안에 설계를 완료하기 위해 TSMC와 협력하여 자체 1세대 AI 칩을 개발하고 있는 것으로 알려졌습니다. 이 파트너십은 5nm 및 3nm 노드와 같은 고성능 AI 칩을 생산하는 데 필수적인 TSMC의 첨단 제조 공정을 활용합니다.
- AI 칩의 성능을 향상시키기 위해 TSMC는 TSMC A16™ 공정 및 시스템 온 웨이퍼(TSMC-SoW™)와 같은 혁신적인 기술을 도입했습니다.
- 이 회사의 Chip on Wafer on Substrate(CoWoS) 기술은 단일 인터포저에 더 많은 프로세서 코어와 고대역폭 메모리 스택을 구현함으로써 AI 혁명을 가능하게 하는 데 핵심적인 역할을 했습니다.
TSMC의 협업은 OpenAI를 넘어 다른 기술 대기업 및 AI 중심 기업과의 파트너십으로 확대되어 진화하는 AI 하드웨어 생태계의 중심 인물로 자리매김했습니다.