AI News

Claude Code 사용에 대한 상세 분석은 AI 에이전트가 AI의 에너지 발자국을 설명할 때 흔히 사용되는 단순한 채팅 프롬프트보다 훨씬 더 많은 전기를 소비할 수 있음을 시사한다. 기후 과학자 Zeke Hausfather는 8주 동안 자신의 프로그래밍 에이전트 활동을 추적해, 1,138개의 입력에 대해 데이터센터 전력 약 170킬로와트시를 추정했다.

이는 입력당 약 150와트시에 해당하며, Google과 OpenAI가 일반적인 텍스트 쿼리로 제시한 0.24~0.34와트시의 약 600배다. 이 비교는 모든 에이전트 워크로드를 보편적으로 측정한 것은 아니지만, 소프트웨어 에이전트가 모델 호출을 반복하고, 큰 컨텍스트를 처리하고, 자율적으로 작동할 때 단일 사용자 요청 뒤에 얼마나 많은 에너지가 숨어 있을 수 있는지를 보여준다.

Hausfather가 Claude Code에서 측정한 것

Hausfather는 The Climate Brink를 통해 자신의 결과를 공유했고, The Decoder가 이를 보도했다. 그의 로컬 Claude Code 로그에는 8주 동안의 사용에 걸친 토큰 수와 모델 호출이 기록돼 있었다. 1,138개의 프롬프트는 14,000회 이상의 모델 호출을 유발했으며, 입력당 약 12회의 호출에 해당하고, 약 32억 개의 토큰이 처리됐다.

그 처리의 가장 큰 비중은 사용자에게 표시되는 텍스트가 아니라 컨텍스트 관리에서 나왔다. 분석에 따르면 토큰의 약 96%는 캐시 읽기였는데, 에이전트가 누적된 컨텍스트를 연속된 단계에서 반복해서 다시 읽었기 때문이다. 화면에 보이는 모델 출력은 처리된 토큰의 약 0.4%에 불과했다.

Hausfather는 총 소비량을 170kWh로 추정했지만, 70~330kWh라는 넓은 불확실성 범위를 제시했다. 토큰 수는 Claude Code 로그에서 가져왔고, 이를 전력 사용량으로 변환하려면 토큰당 에너지 소비에 대한 세 가지 별도의 추정 방법과 가정이 필요했다.

그 결과의 워크로드는 고르지 않았다. 중간값 세션은 약 0.6kWh를 사용했고, 하루 평균 소비는 3.0kWh에 이르렀으며, 범위는 1.2~5.9kWh였다. 여러 개의 병렬 에이전트가 지리 데이터 분석 작업을 수행한 가장 강도 높은 날은 11kWh로 추정됐다.

단순한 프롬프트 비교가 부족한 이유

Google은 Gemini의 중간값 텍스트 프롬프트가 0.24와트시를 사용한다고 밝혔다. OpenAI CEO Sam Altman은 평균 ChatGPT 쿼리를 0.34와트시로 추정했다. 이 수치들은 좁은 범주의 쿼리를 설명할 뿐이며, 여러 단계를 거쳐 작업을 추론하는 코딩 에이전트와 반드시 비교할 수 있는 것은 아니다.

이 구분이 중요한 이유는 “한 개의 프롬프트”가 사용자 인터페이스상의 이벤트이지, 일관된 계산 단위가 아니기 때문이다. Hausfather의 비교에 따르면 일반적인 채팅 대화는 대략 1,000개의 토큰을 포함할 수 있다. 그의 Claude Code 입력은 반복되는 컨텍스트와 중간 호출을 포함해 평균 약 290만 개의 처리 토큰을 기록했다.

추론 모델, 웹 검색, 이미지 및 오디오 처리, 코드 생성, 멀티 에이전트 워크플로는 모두 요청 뒤의 계산량을 바꿀 수 있다. 에이전트는 결과를 반환하기 전에 작업을 재시도하고, 파일을 검사하고, 테스트를 실행하고, 코드를 수정하고, 도구를 호출할 수도 있다. 따라서 초기 프롬프트만 보고하는 제품 대시보드는 실제 워크로드를 가릴 수 있다.

이는 모든 AI 에이전트 사용이 채팅 요청보다 600배 더 많은 전기를 소비한다는 뜻은 아니다. 이 수치는 한 명의 집중적인 Claude Code 사용 패턴을 공개된 낮은 수준의 쿼리 추정치와 비교한 추정치다. 다만 평균 프롬프트 수치를 에이전트 기반 AI의 완전한 회계로 간주해서는 안 되는 이유를 보여준다.

증거, 불확실성, 그리고 탄소 문제

이 분석은 매우 구체적인 사용 데이터를 제공하지만, 데이터센터의 전력을 직접 측정한 것은 아니다. Hausfather의 불확실성 범위는 상당하며, 토큰당 에너지 가정은 AI 회사 외부에서 독립적으로 검증할 수 없다. The Decoder도 외부인은 주요 상용 모델의 정확한 토큰당 에너지 비용을 알 수 없다고 지적한다.

탄소 영향은 전력량만으로 결정되지 않는다. Hausfather는 이 수준의 사용을 1년 동안 유지하면 데이터센터 전력 약 1.1메가와트시가 필요할 것으로 전망했으며, 범위는 0.4~2.2MWh였다. 미국 평균 전력 믹스를 사용해 연간 약 370킬로그램의 이산화탄소 환산 배출량을 추정했다.

이 수치는 전력망이 대부분 깨끗한 곳에서는 더 낮아지고, 탄소 집약적 발전에 의존하는 곳에서는 더 높아질 것이다. Hausfather는 동일한 워크로드를 대부분 깨끗한 전기로 실행하면 탄소 발자국을 약 90% 줄일 수 있다고 추정한다. 그의 결론은 소수의 중대형 사용자가 에이전트 사용을 중단하도록 요구하는 것보다 전력 공급원이 더 중요한 레버일 수 있다는 것이다.

그는 또한 자신의 분석에 따르면 소형 모델이 토큰당 에너지를 최전선 모델보다 약 5~7배 덜 사용하므로 일상적인 작업에 유용하다고 주장한다. 이는 보편적인 구매 규칙이 아니라 방향성 권고이며, 모델 효율성, 품질, 지연 시간, 하드웨어, 재시도 횟수 모두 최종 결과에 영향을 준다.

이 결과가 AI 개발자와 구매자에게 의미하는 것

개발자에게 가장 직접적인 교훈은 사용자 프롬프트 수를 세는 대신 전체 에이전트 실행을 측정하는 것이다. 팀은 모델 호출, 입력·출력 토큰, 캐시 읽기, 도구 호출, 재시도, 병렬 워커, 작업에 소요된 총 시간을 추적해야 한다. 이러한 지표는 겉보기엔 저렴해 보이는 기능이 백엔드에서 상당한 작업을 만들어내고 있음을 보여줄 수 있다.

이 결과는 라우팅 전략의 중요성도 높인다. 더 작은 모델은 분류, 파일 조회, 포맷팅, 단순 코드 변경을 처리하고, 더 강력한 모델은 실제로 더 깊은 추론이 필요한 작업에 사용될 수 있다. 컨텍스트 정리, 검색 설계, 캐싱, 자율 루프 제한은 비용과 전기 사용량 모두를 줄일 수 있지만, 과도한 제한은 신뢰성을 떨어뜨릴 수도 있다.

기업 구매자는 공급업체에게 에너지와 탄소 주장을 어떻게 계산하는지 물어봐야 한다. 쿼리당 수치는 숨겨진 추론, 캐시된 컨텍스트, 도구 호출, 데이터센터 오버헤드를 제외할 수 있다. 코딩 어시스턴트나 워크플로 에이전트 배포를 평가하는 구매자는 가벼운 채팅 트래픽의 평균이 아니라 워크로드별 추정치를 필요로 한다.

이 분석은 며칠 또는 몇 주 동안 실행되도록 설계된 제품의 배포 문제도 제기한다. 더 긴 자율 작업은 Hausfather가 기록한 사용 패턴을 훨씬 넘어 에너지 수요를 증폭시킬 수 있다. 이는 예측은 아니지만, 조직 전체로 사용을 확장하기 전에 에이전트 아키텍처에 에너지, 비용, 종료 제어를 포함해야 할 이유다.

앞으로 주목할 점

다음으로 유용한 신호는 모델 계열, 하드웨어 구성, 에이전트 프레임워크 전반에서 토큰당 에너지를 독립적으로 측정하는 것이다. AI 연구소의 더 명확한 보고는 공급업체 주장을 더 비교하기 쉽게 만들 수 있으며, 특히 기업이 수치에 추론, 캐싱, 도구 호출, 냉각 오버헤드가 포함되는지 공개한다면 더욱 그렇다.

제품 팀은 또한 모델 라우터, 컨텍스트 예산 설정, 에이전트 단계 제한, 워크로드 수준의 에너지 대시보드 같은 실용적 제어를 주시해야 한다. 인프라 측면에서는 천연가스가 공급하는 신규 데이터센터 전력의 비중과 함께, 청정에너지, 송전망 확장, 지열 발전, 원자력에 대한 투자가 추가 전력의 어느 정도가 배출로 이어지는지를 결정할 것이다.

Creati.ai 관점

Hausfather의 분석은 AI 에이전트가 본질적으로 낭비적이라는 것을 보여주지 않으며, 단순 채팅에 대한 낮은 에너지 추정치를 무효화하지도 않는다. 그것은 측정하는 단위가 중요하다는 것을 보여준다. 에이전트에게 사용자 프롬프트는 긴 계산 워크플로의 시작일 뿐일 수 있다.

개발자와 기업 구매자에게 실질적인 대응은 더 나은 회계다. 즉, 전체 작업을 측정하고, 가능한 한 가장 작은 모델로 작업을 라우팅하며, 자율 실행에 대한 제한을 설계하는 것이다. 에너지 논쟁은 제품 수준의 보고가 사용자의 입력이 아니라 에이전트가 실제로 무엇을 하는지를 반영할 때 더 유용해질 것이다.

추천

AI 에이전트는 단순한 채팅 프롬프트보다 입력당 최대 600배 더 많은 에너지를 소비할 수 있다

Zeke Hausfather의 분석에 따르면 Claude Code 에이전트 워크로드는 일반적인 AI 채팅 프롬프트보다 입력당 약 600배 더 많은 전기를 사용하는 것으로 추정된다.