1P by neo 1달전 | favorite | 댓글 1개

마지막 달 Microsoft의 발표

  • Microsoft는 OpenAI에 대한 주요 투자자이자 컴퓨팅 제공업체임
  • Microsoft가 Three Mile Island 원자력 발전소 1호기 재가동에 자금을 지불하겠다고 발표함
  • 이는 급증하는 데이터 센터 전력 수요를 충당하기 위한 것임
  • Amazon에 이어 레거시 원전에 의존하는 두 번째 주요 미국 기술 기업이 됨

AI 제품의 현재 사용 현황

  • 코드, 텍스트, 이미지 생성, 데이터 분석, 작업 자동화, 온라인 플랫폼 향상 등에 널리 사용됨
  • 최첨단 모델은 교육 및 추론을 위해 엄청난 컴퓨팅 리소스가 필요함
  • 산업 규모의 시설에 보관된 대규모 고급 하드웨어 배열이 필요함
  • 이러한 시설은 운영을 위해 방대한 양의 전력, 물, 광대역 및 기타 인프라에 대한 액세스가 필요함

AI 붐의 하류 결과

  • 컴퓨팅 수요 증가를 충족시키기 위한 미국 고정 투자의 급격한 증가
  • 수백억 달러가 고급 컴퓨터, 데이터 센터 시설, 발전소 등에 투입됨
  • 미국 데이터 센터 건설은 연간 286억 달러로 사상 최고치임
  • 이는 미국이 레스토랑, 바 및 소매점 건설에 지출하는 금액을 합친 것과 거의 같음

데이터 센터 투자의 규모

  • 건설 수치는 물리적 건물에만 해당되며 컴퓨터, 케이블, 팬 등은 제외됨
  • 지난 1년 동안 65억 달러 이상의 대형 컴퓨터와 부품을 수입함
  • 정보 기술 기업들이 이러한 새로운 데이터 센터와 장비의 대부분을 구매하고 있음
  • 지난 1년 동안 950억 달러 이상의 사상 최고 수준으로 재산, 공장 및 장비 순 보유액이 증가함

10년 전과 비교한 변화

  • Facebook이 Instagram을 12억 달러에, WhatsApp을 150억 달러에 인수함
  • 이들은 당시 기술 역사상 가장 큰 인수 중 일부였음
  • Instagram은 13명, WhatsApp은 55명의 직원만 있었고 물리적 존재감이 거의 없었음
  • 오늘날 Meta는 2024년 상반기에만 152억 달러를 자본 지출에 사용했음
  • AI 붐은 역사상 그 어느 때보다 하드웨어 집약적임

AI 붐이 투자에 미치는 영향

  • 미국 기업의 컴퓨터 및 관련 장비 투자는 사상 최고 수준으로 급증함
  • 2010년대 내내 상대적 정체를 겪은 후 지난 1년 동안 16.6% 증가함
  • 팬데믹 시대의 원격 근무 붐에 의해서만 깨졌음
  • 2022년 컴퓨터 투자는 다소 감소했지만 2023년 후반 AI 붐으로 다시 급증함

TSMC의 반도체 수요 증가

  • TSMC는 세계 최고의 첨단 반도체 제조업체임
  • AI 컴퓨팅에 대한 수요로 인해 대만에서 수입하는 칩, 컴퓨터 및 관련 부품이 증가함
  • 지난 1년 동안 380억 달러 이상으로 전년 대비 140% 이상 증가함
  • 로직 칩의 직접 수입은 상대적으로 미미한 수준에서 연간 거의 50억 달러로 증가함
  • 컴퓨터 부품과 구성 요소는 여전히 가장 큰 수입 품목임

2023년까지의 투자 데이터 분석

  • Amazon/Google과 같은 데이터 프로세서와 웹 검색 회사가 기술 분야에서 가장 큰 투자 수준을 유지함
  • 소프트웨어 개발자들이 가장 빠른 투자 성장을 보임
  • 소프트웨어 개발사의 지적 재산에 대한 실질 투자는 2021년 이후 40% 증가함
  • 컴퓨터와 같은 장비에 대한 실질 투자는 96% 증가함
  • 소프트웨어 개발사가 얼마나 빨리 하드웨어 기능을 구축할 수 있는지 경쟁하고 있음

데이터 센터 건설의 지역적 불균형

  • 데이터 센터는 네트워킹 요구 사항을 충족하고 인프라 제약을 피하기 위해 어느 정도 분산되어야 함
  • 하지만 대규모 클러스터에 집중시키는 것이 효과를 극대화하고 비용/지연 시간을 줄이는 데 도움이 됨
  • 공식 건설 수치는 지역 수준에서만 데이터 센터 지출 내역을 제공함
  • 미국 남부의 역사적 클러스터에서 데이터 센터 구축이 가장 활발함
  • 중서부와 서해안 시장 전반에서 성장이 훨씬 빨랐음
  • 북동부는 기능적으로 영향을 받지 않음

데이터 센터가 전력 수요에 미치는 영향

  • 에너지정보국(EIA)은 데이터 센터 수요를 기반으로 부하 증가 전망치를 반복적으로 상향 조정함
  • 상업용 부문 전력 소비가 올해 3%, 내년 1% 증가할 것으로 예측함
  • 상업용 사용자는 주거용 전기화 및 산업용 리쇼어링보다 전력 소비 증가의 작은 동인임
  • 그러나 2007년부터 2023년까지 상업용 전력 소비는 총 5%만 증가함
  • AI 이전 추정치는 컴퓨터 및 사무 기기가 상업용 전력 소비의 11.4%에 불과한 것으로 나타남

주별 데이터 센터 전력 소비 현황

  • 노스다코타의 상업용 전력 소비는 2022년 주요 데이터 센터 개장 이후 45% 이상 증가함
  • 그러나 노스다코타는 상대적으로 작은 전력 및 컴퓨팅 시장임
  • 가장 큰 전력 수요 증가는 버지니아와 텍사스와 같은 대규모 데이터 센터 클러스터에서 발생함
  • 버지니아의 상업용 에너지 소비는 2019년 이후 30% 증가했으며 전국에서 가장 큰 상업용 전력 수요 증가를 보임
  • 텍사스는 2019년 이후 상업용 전력 소비가 10% 증가했으며 향후 몇 년 동안 훨씬 더 큰 성장이 예상됨

AI 기업의 전력 투자 경향

  • AI 기업들은 대규모 전력 자원 근처에 집중하려고 함
  • 이에 따라 원자력 에너지에 대한 관심이 새롭게 대두되고 있음
  • 기술 기업들이 컴퓨팅 기능을 구축함에 따라 발전 인프라에 직접 투자하려는 욕구가 커지고 있음
  • 정보기술 분야의 매출은 2022년과 2023년의 둔화에서 반등함
  • 소프트웨어 개발사, 웹 검색 포털, 컴퓨팅 인프라 제공업체의 수입은 지난 1년 동안 12~15% 증가함

AI 붐에도 불구한 tech 고용 약세

  • 미국은 지난 1년 동안 3만 2천 개의 기술 일자리만 추가함
  • 이는 2021년, 2022년 또는 팬데믹 이전 9년 동안 어느 때보다 낮은 수준임
  • 최첨단 AI 붐에 있는 소프트웨어 개발사와 컴퓨팅 인프라 산업도 지난 1년 동안 실질적인 고용 증가가 없었음
  • 최근 컴퓨터 공학 졸업생들을 괴롭혔던 침체된 일자리 시장은 크게 개선되지 않았음

AI 투자 붐의 노동 시장 영향

  • 반도체 제조업의 총 보상은 2023년 1분기에서 2024년 1분기까지 25% 증가함
  • NVIDIA와 같은 회사의 근로자들은 훨씬 더 가치 있는 주식 옵션을 받음
  • 지난 1년 동안 상업용 건설 일자리가 3만 개 증가한 것은 데이터 센터 수요의 영향임
  • 반도체 공장과 기타 제조 부문의 산업 건설 일자리 호황과 전력 및 인프라 구축에 따른 고용 증가도 있음
  • 그러나 지금까지 AI 붐의 일자리 역학은 지난 10년간의 기술 노동 시장과 크게 다름
  • 전통적인 프로그래머보다 하드웨어 투자, 제조/설계 회사, 인프라 구축에 더 초점을 맞추고 있음

AI 개발자들의 경쟁과 정책 입안자들의 시각

  • AI 개발자들은 제품 개선과 상용화로 현재 투자 규모를 검증할 수 있을 것으로 기대하며 치열하게 경쟁하고 있음
  • 단기적으로 보다 진보된 모델이 개발되고 AI 사용이 더 많은 실제 응용 분야로 확장됨에 따라 투자는 계속 증가할 것으로 예상됨
  • 정책 입안자들은 AI를 미래 미국 경제의 핵심으로 보고 있음
  • AI 개발과 데이터 센터 용량은 미국이 상당한 선두를 차지하고 있는 첨단 산업임
  • AI 붐은 아마도 다른 어느 나라보다 미국 투자에 더 큰 혜택을 주었음

하드웨어 용량을 둘러싼 지정학적 경쟁 격화 가능성

  • CHIPS 법은 대만 수입 의존도를 완화하기 위한 것이었지만, 고급 반도체 수요 증가로 인해 오히려 의존도가 높아짐
  • 데이터 센터 규모의 공급을 충족하기 위해 미국은 여전히 중국에 의존하고 있음
  • 미국은 중국의 AI 개발을 억제하기 위해 고급 칩에 대한 중국의 접근을 계속 제한할 가능성이 높음
  • 중국은 수입 의존도를 줄이기 위해 칩 제조 능력을 계속 구축하고 있음
  • AI 투자 붐이 지속됨에 따라 이는 진행 중인 칩 전쟁의 최전선으로 더 깊이 들어갈 것으로 예상됨

GN⁺의 의견

  • AI 시대에 반도체 경쟁력을 갖추는 것은 매우 중요한 과제임
  • 첨단 반도체에 대한 수요가 급증하여, 좋은 반도체 기술 없이는 경쟁력 있는 AI 모델을 만들기 어려움
  • 기술적 리더십 외에도 군사 및 경제력에도 반도체 능력이 중요한 역할을 함
  • 미국과 중국 간 반도체 경쟁은 더욱 치열해질 것이며, 자국 내 생산력 확보에 주력할 것으로 보임
  • 두 나라 간 협력과 무역도 일부 제약을 받을 가능성이 있음
  • 반도체 공급망의 한쪽 의존도를 줄이고 다각화하는 노력이 필요함
  • 새로운 첨단 반도체 개발에 막대한 R&D 투자와 숙련된 인력이 필수적임
  • 한국, 대만, 일본 등 아시아 국가들의 역할도 주목할 필요가 있음
  • 장기적으로는 미중 간 기술 패권 경쟁의 핵심 분야가 될 것으로 예상됨
Hacker News 의견
  • 한 사용자는 미국 역사에서 철도, 자동차 회사, 통신 섬유 붐과 같은 대규모 자본 투자 붐이 반복될 것이라고 예상함. 이러한 투자는 초기에는 많은 기업이 파산하지만, 결국 경제와 사회에 큰 이익을 가져다줄 것이라고 믿음. 특히 에너지 투자가 화석 연료에서 벗어나는 데 기여할 것이라고 생각함

  • 다른 사용자는 철도와 현재의 하드웨어 투자를 비교하는 것은 부적절하다고 주장함. 철도는 오랜 기간 동안 지속 가능하지만, 현재의 하드웨어 투자는 6년 후에는 가치가 없을 것이라고 봄. 또한, 미래의 AI 시스템이 현재의 하드웨어에서 효율적으로 작동하지 않을 위험이 있다고 경고함

  • 또 다른 사용자는 LLM에 막대한 자원을 투자하면서도 환경 파괴를 주장하는 것이 모순적이라고 지적함. 결국 LLM에 대한 기대를 포기하거나 환경 파괴에 대한 주장을 포기해야 할 것이라고 주장함

  • 한 사용자는 현재의 AI 붐이 GPU와 하드웨어 투자에 집중되어 있으며, 소프트웨어와 AI 플랫폼에 대한 투자도 주목받아야 한다고 주장함. 이 이야기는 'GPU 투자 붐'으로 더 정확하게 표현될 수 있다고 봄

  • 클라우드 비용에 대한 우려를 표명하는 사용자는 대규모 투자가 클라우드 비용에 어떤 영향을 미칠지 궁금해함. 규모의 경제로 비용이 절감될 수도 있지만, 자원이 소진되어 가격이 상승할 수도 있다고 예상함

  • AI 버블이 곧 터질 것이라고 예측하는 사용자는 현재 상황을 1998년의 닷컴 버블과 비교함. LLM과 생성 AI가 올해의 유행어가 될 것이라고 봄

  • AI가 환각을 일으키는 문제를 지적하는 사용자는 이러한 AI가 틈새 시장 외에는 유용하지 않을 것이라고 주장함

  • 미래의 용량을 위한 투자 붐이 일어나고 있으며, 수요가 이를 따라갈지 궁금해하는 사용자는 과잉 용량이 구축되어 일부 파산과 더 저렴한 컴퓨팅/AI 비용이 발생할 수 있다고 예상함. 이는 차세대 스타트업이나 기업이 번창할 수 있는 기회를 제공할 것이라고 봄

  • Dr. Robert Martin의 이야기를 회상하는 사용자는 대역폭 용량이 무한대로 증가하고 비용이 0에 가까워지는 상황을 언급함. 지능의 수요가 무한할 가능성과 지능의 비용이 전력 비용과 수렴할 가능성을 제기함

  • AI 제품이 코드, 텍스트, 이미지 생성, 데이터 분석, 작업 자동화 등 다양한 용도로 사용되고 있지만, 개인적으로는 Copilot 사용이 줄어들었다고 말하는 사용자는 AI가 미세한 버그를 생성하여 디버깅에 더 많은 시간이 소요된다고 주장함. 'chain of thought' 모델도 시도했지만 더 나쁜 결과를 얻었다고 함