Hacker News 의견

• CUDA의 중요성에 대한 논의

  • CUDA는 단순히 칩 생산 속도가 아니라 소프트웨어와 생태계의 문제임. 경쟁사들은 생태계와 경쟁해야 함.
  • 중고 Mi100이 eBay에서 A100과 거의 비슷한 성능을 5배 적은 가격에 제공되지만, 소프트웨어 불일치로 인해 Nvidia GPU에 비해 작동시키는 데 많은 시간이 소요됨.
  • Google은 XLA 인터페이스를 통해 PyTorch와의 호환성을 제공하며, Intel도 비슷한 상황임.
  • 경쟁사들은 모든 모델을 테스트하고 문제를 해결하기 위한 대규모 테스트 스위트를 구축해야 함.
  • Intel은 공개적인 이니셔티브를 발표하고 최소한의 지원만 제공하는 경향이 있으며, OpenVino는 성공하지 못할 가능성이 높음. 반면 OpenAI의 Triton이 더 인기가 있어 보임.

• NVIDIA의 소프트웨어 엔지니어링 전략

  • NVIDIA의 엔지니어 중 절반 이상이 소프트웨어 엔지니어임. Jensen은 수십 년에 걸쳐 강력한 소프트웨어 스택을 구축함.
  • Intel이 기술적이고 전략적인 CEO를 찾기 전까지는 CUDA에 대한 성공적인 대응을 조직하기 어려울 것임.

• CUDA 대안에 대한 기대와 현실

  • CUDA보다 나은 도구, 생태계, 프로그래밍 경험을 제공하면 모두에게 이득이 될 것임.
  • 그러나 현재는 OpenCL의 실패와 같은 이전 시도들을 고려할 때, 이러한 주장이 다소 우스운 상황임.
  • Intel과 AMD는 CUDA에 대한 투자에 비해 훨씬 적은 노력을 기울였으며, 그 결과가 실망스러움.

• CUDA의 진정한 장점에 대한 질문

  • CUDA의 장점은 하드웨어가 아닌 소프트웨어 생태계임.
  • 대부분의 사용자에게는 많은 마이그레이션 비용이 들지 않을 수 있지만, 연구자들과 경계를 넓히는 사람들에게는 그렇지 않을 수 있음.

• OpenCL 기반의 대응 노력에 대한 비판

  • Intel과 AMD는 OpenCL을 기반으로 유사한 기능을 제공하기 위해 여러 해 동안 시간을 가졌음에도 실패함.

• CUDA에서 벗어나려는 동기 부족

  • 대부분의 모델과 도구는 여전히 CUDA를 사용하며, AMD NN 미들웨어의 사용은 거의 보이지 않음.

• Intel과 AMD의 소프트웨어 전략 실패

  • Intel은 지난 10년 동안 아무것도 하지 않았으며, 수십억 달러를 거의 기능하지 않는 GPU에 낭비함.
  • Nvidia는 AI 발전을 돕는 데 성공적으로 투자함.

• Intel과 AMD의 소프트웨어 전략에 대한 비판

  • Pat Gelsinger와 Lisa Su는 소프트웨어에 대한 이해가 부족하며, 복잡한 하드웨어에 대한 소프트웨어를 커뮤니티에 기대고 있음.
  • Nvidia는 하드웨어와 소프트웨어를 함께 발전시켜왔으며, CUDA 프로그래밍 모델은 오래 전부터 큰 베팅이었음.
  • Intel과 AMD가 근본적인 변화를 하지 않는다면 ARM과 Nvidia에게 패배할 것임.

• Intel GPU에 대한 기대

  • Nvidia GPU와 동일한 비용으로 성능이 뛰어난 Intel GPU에 PyTorch를 잘 실행할 수 있다면 Intel GPU를 구매할 의향이 있음.

• CUDA 독점에 대한 비판

  • NVIDIA가 CUDA 독점을 유지하려는 동기는 이해하지만, AMD/Intel/기타 회사들이 기회를 놓친 것도 사실임.
  • 기술적/능력적 장벽이 특정 사용 사례에 대한 사실상의 독점을 유지할 때 소비자가 손해를 보게 됨.