Hacker News 의견

• 실망스럽지만 놀랍지 않은 소식. 이 사건에서 배울 점을 찾아보자.

  • AI 분야에서는 알트루이즘(이타주의)과 개방성을 주장하는 것이 인기가 있으며, OpenAI, Anthropic, 그리고 머스크의 새로운 xAI 등은 공공의 이익을 위해 특이한 거버넌스 구조를 가지고 있다. 문제는 이들 중 어느 회사가 충분한 주목을 받아 수십억 달러의 이익을 얻을 가능성이 보이기 시작하면 상황이 변한다는 것이다.
  • 이 문제는 AI 회사에만 국한되지 않으며 새로운 것도 아니다. 이것은 인간 본성의 일부이며 항상 존재할 것이다.
  • 우리는 AI의 혜택이 소수의 회사가 아닌 대중에게 돌아가도록 진정으로 개방된 AI 모델(개방된 훈련 데이터, 훈련 소스 코드 및 하이퍼파라미터, 모델 소스 코드, 가중치)에 더 많은 강조와 주의를 기울여야 한다.

• OpenAI가 ChatGPT 출시 이후로 아무것도 공유하지 않고 수십억 달러의 투자를 받았다는 것을 알고 있으므로 OpenAI가 폐쇄적이라는 데에 놀랄 필요가 없다.

• OpenAI는 그들이 한 모든 약속을 어겼다.

• 이사회는 어떻게 이런 일이 발생하게 놔뒀을까!

  • 더 심각하게 생각해보면, 이것은 명백한 결과이면서도 약간 음습한 느낌이 든다.
  • OpenAI가 많은 자금과 자본이 필요하다는 것은 사실이며, 이로 인해 자금 조달과 파트너십이 필요하다는 것도 사실이다.
  • 하지만 그들이 처음에 존재할 수 있었던 유일한 이유는 '개방적인', 거의 공공재와 같은 회사로 자신들을 포지셔닝하고 이를 기반으로 기부금을 받았기 때문이다.

• 이 기술이 사회에 미칠 수 있는 해로운 사용에 대해 듣고 있는 모든 것을 바탕으로, 이 상황이 무슨 일이 벌어지고 있는지 파악하기 위한 일종의 조사가 필요할 정도로 심각한지 궁금하다.

  • 이 상황은 충분히 심각해서 이런 종류의 작업을 사유화하는 것을 방치할 수 없다.
  • '이것이 정상'이라는 주장에 관심을 가질 필요가 없다. 그것은 사람들이 이런 행동을 정상화하도록 만드는 시도일 뿐이다.
  • 공공의 이익을 위해 행동하는 인공지능 안전 센터가 있는지, 그리고 이 문제가 그들의 레이더에 있는지 아는 사람이 있나?

• 머스크를 옹호하고 싶지는 않지만, 만약 내가 그였다면 기사가 '부유한 기술 기업가들이 투명성을 약속했지만 이제는 그렇지 않다'고 시작하고, 유일하게 언급된 창립자가 몇 년 전에 퇴출되었고, 이제는 경쟁자가 되어 '최대 이익을 위한 초폐쇄 소스 AI'라고 부르는 상황에서 8단락이나 걸려서 이를 지적하는 것에 대해 조금 화가 날 것 같다.

  • 언론은 비난에 중독되어 있으며, 비난과 헤드라인 사이에 들어가는 모든 뉘앙스는 기사의 바닥에 배치되어, 유료 벽 뒤에 숨겨진다. 아마도 몇 년 후에는 알트만에게도 이런 전술이 적용될 것이다.
  • 상황이 너무 나빠져서, 내가 위선을 암시하는 헤드라인을 읽을 때 실제로는 반대를 더 믿게 되는 경향이 있는데, 이것은 정확하다고 가정하는 것만큼이나 끔찍한 정신적 장애다!

• 이 조직의 시작부터 이런 일이 일어나지 않도록 방지하는 규칙이 있어야 했다. 사건의 전개는 그들의 거버넌스 형태가 효과적이지 않음을 보여준다.

• 그들이 회사 이름을 'Microsoft AI'로 바꾸기까지 얼마 남지 않았다.

• OpenAI를 공익 비영리 회사로 보이려 하지만, 실제로는 다른 사적인 기술 회사와 마찬가지로 보는 것이 최선이다.