▲neo 7달전 | parent | favorite | on: GN⁺: 기업들이 GPU에 대한 저렴한 접근을 요구하면서 대체 클라우드가 급성장중(techcrunch.com)Hacker News 의견 요약: AWS의 비즈니스 모델은 가격 책정을 혼란스럽게 만들어 사용 후에야 비용을 알 수 있게 하는 것으로 보임 GCP의 새로운 인스턴스 유형인 n4-standard-2의 월간 비용 분석 결과, vCPU와 메모리 비용은 월 $69로 높은 편이며, SSD 가격도 비싼 편임 향후 10년 내에 대형 클라우드 제공업체들이 어려움을 겪을 것으로 예상됨. planetary-scale 시스템을 구축하는 비용이 너무 비싸고 복잡해 정당화하기 어려움 CoreWeave, Azure, Google Cloud의 Nvidia A100 40GB GPU 렌탈 비용을 비교한 기사에서 계산 오류가 있음. CoreWeave의 월간 비용이 30% 정도 차이남 fly.io는 GPU 워크로드에 적합한 대안으로 추천됨. 자동 크기 조정 기능이 좋음 AWS의 비즈니스 모델은 초기 스타트업이 대기업으로 성장하는 과정에서 많은 수익을 올리는 것으로 보임. 그러나 ZIRP 종료와 VC 자금 조달 어려움으로 폭발적 성장을 위해 많은 돈을 쓸 수 있는 스타트업 수가 줄어들 것으로 예상됨 추론 작업을 위한 대안적인 클라우드 GPU 사용 경험에 대한 질문이 제기됨. 지연 시간이 중요하며, AWS 인프라와 다른 곳의 GPU 간 통신이 어려울 수 있음 Core Weave와 Lambda Labs는 연간 계약 없이는 GPU를 임대할 수 없는 약탈적 가격 정책을 가지고 있음. sfcompute와 같이 시간별 컴퓨팅을 제공하는 회사도 있음 "H100s/A100s를 소량 확보했다"는 것 자체가 수익성 있는 기술 비즈니스 모델이 될 수 있음 Crusoe Cloud는 H100s, A100s, L40s를 매우 저렴한 가격에 제공하며, 네트워크 사용료도 부과하지 않음. FLOP 당 가격이 타의 추종을 불허함
Hacker News 의견
요약: