ChatGPT 에너지 사용량은 과대평가 되었다.

비영리 연구 기관인 에포크 AI의 새로운 연구에 따르면, ChatGPT의 에너지 소비량은 이전에 추정된 것보다 훨씬 적습니다. 이 연구에 따르면, 챗봇의 최신 모델인 GPT-4o는 쿼리당 약 0.3와트시를 소비하는데, 이는 이전에 널리 인용된 3와트시 추정치보다 10배 적은 수치입니다.

ChatGPT 에너지 소비량

Epoch AI의 최신 연구 결과는 ChatGPT의 에너지 소비량에 대한 이전의 가정을 반박합니다. 연구자들은 OpenAI의 최신 기본 모델인 GPT-4o를 사용하여 일반적인 쿼리가 약 0.3와트시의 전기를 소비한다는 것을 발견했는데, 이는 ChatGPT의 상호 작용마다 약 3와트시의 전력이 필요하다는 이전의 추정치와 극명한 대조를 이룹니다. 에너지 사용량의 현저한 감소는 AI 기술의 발전과 현재의 효율성 향상을 반영하는 보다 정확한 계산 방법 덕분이라고 할 수 있습니다.

에너지 사용량 비교

ChatGPT의 에너지 소비량을 이해하기 위해서는 다른 일반적인 활동과 비교해 보는 것이 도움이 됩니다. 쿼리당 0.3 와트시인 ChatGPT의 에너지 소비량은 이제 하나의 Google 검색과 비슷하며, 이는 많은 일상적인 작업보다 훨씬 적은 양입니다.

차를 끓이기 위해 물을 데우는 데는 약 100와트시가 소비됩니다.
TV를 한 시간 시청하는 데는 약 120와트시가 소비됩니다.
아이폰 15를 매일 충전하는 데는 연간 약 4.7와트시가 소비됩니다.
미국 가정의 평균 전기 사용량은 하루에 약 29킬로와트시입니다.

이러한 비교는 ChatGPT와 같은 AI 기술이 에너지를 소비한다는 것을 강조하지만, 개별적인 영향은 많은 일상 활동에 비해 상대적으로 작습니다. 그러나 하루에 수백만 건의 쿼리가 누적되면 상당한 에너지 소비로 이어질 수 있다는 점도 중요하므로 AI 시스템의 효율성을 지속적으로 개선해야 합니다.

효율성 요소

ChatGPT의 에너지 효율성 개선에 기여하는 여러 가지 요소가 있습니다.

구형 A100 모델 대신 최신 Nvidia H100 칩을 포함한 더 발전된 하드웨어의 구현.
출력 토큰 길이에 대한 보다 현실적인 가정을 통한 AI 시스템 최적화.
피크 사용량 대신 70% 서버 전력 사용량을 가정함으로써 현재의 기술을 더 잘 반영하도록 계산 방법 업데이트.
성능 저하 없이 에너지 소비를 줄이기 위한 계산 모델의 지속적인 개선.

이러한 발전은 AI의 에너지 발자국에 대한 기존의 가정을 뒤집는 데 도움이 되었고, 보다 지속 가능한 AI 개발을 위한 길을 열어주었으며 전력 요구량을 크게 줄였습니다.

환경 및 미래에 미치는 영향

ChatGPT의 에너지 소비가 환경에 미치는 영향과 미래에 미칠 영향은 복잡하고 변화하고 있습니다. 최근 연구에 따르면 에너지 사용량이 이전에 생각했던 것보다 적을 수 있지만, AI 시스템의 누적 효과는 여전히 중요합니다.

ChatGPT의 연간 에너지 소비량은 약 313만 대의 전기 자동차를 완전히 충전할 수 있는 226.8GWh에 달할 것으로 예상됩니다.
과학자들은 AI 에너지 소비량이 2027년까지 134TWh까지 증가할 것으로 추정합니다.
국제에너지기구(IEA)는 데이터 센터와 데이터 전송 네트워크가 이미 전 세계 전력 사용량의 1-1.5%를 차지하고 있다고 보고합니다.

앞으로 AI 인프라에 대한 수요가 증가하면 2023년 수준에 비해 2026년에는 에너지 소비량이 두 배로 늘어날 수 있습니다. 더 복잡한 모델의 개발과 AI 시스템의 전 세계적 보급 증가로 인해 효율성 향상 효과가 상쇄될 수 있습니다. AI 산업은 환경에 미치는 영향을 줄이기 위해 에너지 효율적인 하드웨어와 재생 에너지원에 투자하고 있습니다. 개별 ChatGPT 쿼리의 에너지 사용량이 상대적으로 적을 수 있지만, AI 채택의 규모는 이 분야에서 에너지 효율성을 지속적으로 모니터링하고 개선해야 할 필요성을 요구합니다.

비상장 추천 주식

OpenAI - 자연어 처리 및 AI 모델 개발의 핵심 기업.
Graphcore - 에너지 효율적인 AI 반도체 및 컴퓨팅 솔루션 제공.

jaywhy502087 님의 블로그