Hacker News 의견
- 모든 댓글: 이 스레드에는 1800개 이상의 댓글이 있으며, 모두 읽고 싶다면 각 페이지 하단의 'More'를 클릭하거나 제공된 링크를 사용하여 읽을 수 있음.
- OpenAI가 비영리 단체로 남는 경우, 마이크로소프트의 이사회 구성원은 마이크로소프트의 비즈니스 요구가 아닌 자선 단체의 사명을 증진해야 하는 법적 의무가 있으며, 이는 명백한 이해 상충을 초래할 수 있음. IRS가 이러한 구성을 좋아하지 않을 것으로 예상됨.
- 샘 알트만이 CEO로 복귀함에 따라, OpenAI 이사회가 기능을 상실했다는 증거가 될 수 있음. 이사회는 샘을 해임할 권리를 행사할 수 없게 되었으며, 샘은 이제 자신이 원하는 대로 행동할 수 있음. 샘의 행동에 대한 비난이나 오해를 하지 않지만, 그가 거짓말을 하거나 부적절한 행동을 할 수 있다는 우려가 있음.
- 코카콜라와 뉴 코크 사건을 떠올리게 하는 사례로, 결국 오리지널 코크가 더 인기를 얻게 된 사건임. 소비자들은 익숙한 맛을 되찾기를 강력히 요구했으며, 일부 기자들은 이 모든 것이 홍보 전략이었다고 추측함.
- 개발자 한 명과 비즈니스맨 한 명의 대결에서 비즈니스맨이 이겼고, 수백 명의 개발자가 퇴사를 위협했을 때 이사회가 굴복함으로써 개발자들이 실제로 힘을 가지고 있었다는 것을 보여주는 사례임.
- 일리야가 이사회에서 물러났지만 아담은 여전히 남아 있음. 이것이 일부의 눈썹을 찌푸리게 할 수 있지만, 샘의 복귀로 인해 OpenAI에 중대한 변화가 있을 것이며, 장기적으로 OpenAI가 페이스북이나 우버와 같은 대기업이 될 것이라고는 생각하지 않음. 신뢰를 잃었다는 인식이 있음.
- Rapid Commercialization 팀과 원칙을 고수하는 팀 간의 갈등이 있었으며, 이는 GPT-3 이전부터 글에서도 나타남. 대중의 소수만이 AI 안전성에 관심을 가지고 있으며, 나머지는 ChatGPT가 숙제를 돕는 것에 만족함. 이사회의 무지에 대해 비웃을 수 있지만, 만약 누군가가 초인공지능의 위협을 진지하게 받아들인다면, 그들의 행동을 이해해볼 필요가 있음.
- 개인적으로 AI 안전성에 대한 위협을 심각하게 받아들이지 않지만, 이해하려는 노력이 필요함. 헬렌 팀이 "우리가 막으려 했던 바로 그 일"이라고 말하는 날이 오지 않기를 바람.
- AI 안전성에 대한 민간 산업 접근 방식에 대한 희망이 있었지만, 이제는 불가능해 보이며, 공공 AI 연구개발에 대한 국가 투자의 느린 속도로 인해 모든 AI 안전성 접근 방식이 불가능해 보임. 장난감 모델에 대한 안전 연구는 계속 발전을 이룰 것이지만, 업계는 최첨단 모델에 대한 연구 없이는 안전성에 대해 배울 수 있는 한계가 있다고 보고 있음.
- 오픈AI의 거버넌스 구조가 안전성 우선 순위를 보장하는 메커니즘이라고 알트만이 주장했지만, 내부에서 안전성 연구가 ChatGPT 운영 유지로 재배치되는 보고서는 우려를 낳음. 이사회가 기술적으로 가능했지만 이해관계를 관리하기에 충분한 힘이 없었다는 것이 드러남에 따라, 안전성을 중시하는 어떤 조직도, Anthropic을 포함하여, 자금 제공자의 가속주의 영향을 피할 수 있는지 불분명함.
- 폴 그레이엄은 "5년 후에 돌아오면 샘은 그 섬의 왕이 될 것"이라고 말함.
- 많은 VC/마이크로소프트가 비영리 조직의 거버넌스 구조를 이익 동기로 인해 전복했다는 서사가 있지만, 실제로는 그렇지 않다고 생각함. 결정이 내려진 이유는 95%의 직원이 이 문제에 대해 샘의 편을 들었고, 이사회는 자신들의 입장을 전혀 설명하지 않았기 때문임. 샘과 95%의 직원, 모든 투자자가 이사회에 반대했으며, 이사회는 여기서 패배해야 함. 이사회가 자신들만을 위해 통치했기 때문임. 결국 공정하고 좋은 결과가 나왔으며, AGI 문제를 해결하기 위한 거버넌스 구조는 여전히 적절하다고 생각하지만, 이번 이사회는 매우 부적절했음.