맨해튼 프로젝트와 아폴로 계획의 예산이 현대 기준으로 봤을 때 의외로 "저렴했음". 1960년대 달 착륙에 쓴 예산이 최근 애플의 자사주 매입과 비슷한 수준임.
맨해튼 프로젝트와 아폴로 계획 모두 당시 GDP의 0.4%를 사용함. 오늘날 GDP $27조 기준으로는 $108B에 해당함. 메타는 아직 그 1/3도 GPU에 쓰지 않았음.
최신 GPU, CPU, SoC의 압도적 복잡성이 우리를 압도하지는 않음. 30억 개 트랜지스터가 들어간 3nm 칩 생산 과정에 비하면 맨해튼 프로젝트는 획기적이지만 규모 면에서는 크지 않음.
메타가 그렇게 많이 투자했는데도 OpenAI를 따라잡지 못하는 이유가 궁금함. OpenAI는 어떻게 그렇게 뛰어난 성능을 내는 것일까?
1960년대 이전에 제작된 작품들의 품질과 기량에 늘 감탄하게 됨. 그 이후 현대 사회가 낭비적이고, 느리고, 비싸고, 야심 없어진 근본적 이유가 무엇일지 모르겠지만, 되돌아갈 수 있다면 좋겠음.
메타가 이 GPU들을 내부 운영에 얼마나 사용하고 있는지, 그로 인해 어떤 비용 절감 효과를 보고 있는지 공개된 바가 있는지 궁금함. 실망스러운 "메타 AI" 챗봇 외에도 콘텐츠 추천 엔진, 악용 방지, 네트워크 대역폭 최적화 등 H100을 투입할 만한 분야가 많을 것 같음.
맨해튼 프로젝트가 투입 대비 성과가 더 컸던 것 같음.
이는 폐쇄적 정원(walled garden)과 지적 재산권 가치의 영향이 큼. 법이 바뀌어 IP/데이터를 보호할 수 없게 되면, 내년에는 페이스북을 클론/수정한 사본을 만드는 사람들이 많을 것임. 마찬가지로 엔비디아 GPU 설계를 가져다 변형하는 사람들도 많을 것임. 경쟁으로 인해 가격과 이윤율은 거의 0에 가까워질 것임.
10년 안에 무어의 법칙으로 인해 100만 달러 어치 GPU로 지금과 같은 성능을 낼 수 있게 될 가능성이 어느 정도일지 궁금함. 그 정도 돈이면 GPU 제조사를 인수할 수 있을 것 같음.
이는 들리는 것만큼 인상적이지는 않음. 미국의 실질(인플레이션 조정) GDP는 1945년에 비해 거의 9배나 높아졌기 때문임.
Hacker News 의견