GN⁺: OpenAI 연구원들, CEO 축출을 앞두고 이사회에 AI 혁신에 대한 경고 서한을 보냈음
(reuters.com)- OpenAI의 연구진이 샘 알트먼 사건 4일전, 이사회에 강력한 인공지능 발견에 대해 경고하는 편지를 보냄
- 편지 내용은 확인되지 않았으나, 연구진은 AI의 능력과 잠재적 위험을 지적함
Q* 프로젝트의 진전
- OpenAI는 Q*라는 프로젝트에서 인공 일반 지능(AGI)을 향한 돌파구를 이룬 것으로 내부적으로 믿음
- Q*는 초등학생 수준의 수학 문제를 해결할 수 있는 능력을 보여줌으로써 연구진의 큰 기대를 모음
- AGI는 제한된 연산만 해결하는 계산기와 달리 일반화, 학습, 이해 능력을 가짐
SUPERINTELLIGENCE
- 수학은 생성적 AI 발전의 전선으로, 현재 AI는 다음 단어를 통계적으로 예측하여 글쓰기와 언어 번역에 능함
- 수학 문제 해결 능력은 AI가 인간 지능과 유사한 추론 능력을 가질 수 있음을 시사함
- 이러한 능력은 새로운 과학 연구에 적용될 수 있음
GN⁺의 의견
- 이 기사에서 가장 중요한 것은 OpenAI의 연구진이 이사회에 AI의 잠재적 위험을 경고한 사실과 Q* 프로젝트의 진전임.
- 인공 일반 지능(AGI)에 한 발짝 더 다가선 것으로 보이는 이 발견은 AI 기술의 미래와 인류에 미칠 영향에 대한 흥미로운 토론을 촉발할 수 있음.
- AI의 발전이 가져올 긍정적인 가능성과 함께, 잠재적인 위험성에 대한 인식을 높이는 계기가 될 수 있어 사람들에게 매력적인 주제임.
근데 이런건 뭐 시간의 문제 아닌가요? 아무리 먼저 개발한 OpenAI에서 공개를 늦추거나 취소한다 해도 다른 경쟁사나 오픈소스 커뮤니티에서 언젠가는 유사한게 나올 것 같은데..
Hacker News 의견
- 4chan에서 몇 일 전에 올라온 이론과 관련하여, 만약 버전이 공식적으로 AGI(일반 인공지능)로 선언된다면, Microsoft 등에 상업적 이득을 위해 라이선스를 줄 수 없게 된다는 내용이 있음. 이에 따라 Altman은 AGI로 불리는 것을 원하지 않지만, 다른 이사회 멤버들은 원한다는 주장이 제기됨.
- Q라는 새로운 모델이 주어진 방대한 컴퓨팅 자원을 이용하여 일정 수준의 수학 문제를 해결할 수 있었다는 발견에 대한 언급이 있음. 이 모델은 초등학생 수준의 수학 문제를 해결하는 데 성공했으며, 연구자들은 Q의 미래 성공에 대해 매우 낙관적임.
- Sam Altman이 최근 Q* 발견과 관련해 언급한 두 가지 댓글이 있음. 하나는 APEC에서 11월 18일에 한 댓글이고, 다른 하나는 9월 22일에 트위터에 올린 글임. 이들은 OpenAI의 발전과 발견의 순간을 언급하고 있음.
- 개인의 부와 권력에 한계를 두는 것이 좋은 아이디어라는 의견이 있음. 석유 회사들이 이익을 위해 지구를 파괴하고, 기술 회사들이 이익을 위해 사생활을 침해하는 것을 본 바 있으며, Sam Altman이 이익을 위해 무엇을 할지 또는 하지 않을지에 대한 질문이 제기됨.
- 약 한 달 전 Sam Altman이 AI가 일반 지능에서 초인간적인 설득 능력을 갖기 전에 매우 이상한 결과를 초래할 수 있다는 댓글을 남겼음. 이사회는 최근의 돌파구에 놀라서 비상 버튼을 눌렀을 가능성이 있으며, 선거 주기 전에 "초인간적인 설득" 능력을 가진 것은 잘못된 손에 들어갈 경우 엄청난 결과를 초래할 수 있음.
- 언젠가 AI가 50%의 일자리를 수행하고, 주요 결정을 내리며, AI가 운전하는 차량에 타고 다니고, 사람들이 AI와 로맨틱한 관계를 맺는 날이 올 것이지만, 그때까지도 우리는 만들어진 것이 진정한 AGI인지에 대해 논쟁할 것임. AGI는 항상 다음 단계로 여겨질 것이며, 어느 날 우리는 몇 년 전에 이미 그 선을 넘었다는 것을 깨닫게 될 것임.
- OpenAI의 이사회가 Sam Altman을 신뢰하지 못하고, 회사를 폭발시키는 것이 해당 기술을 탐구하는 것보다 낫다고 생각하는 이유를 설명하는 데 도움이 되는 내용이 있음.
- 이사회가 Sam Altman을 해고하는 것과 관련된 서한에 대한 내용이 더 잘 부합하며, 중대한 발견을 보고하지 않고 직원 서한을 통해 알게 된 것은 "솔직하지 못함"으로 간주될 수 있음. 또한, 만약 종말 시나리오를 가정한다면, 이러한 비밀이 악당의 손에 들어가지 않도록 얼마나 오래 비밀을 유지할 수 있을지에 대한 질문이 있음.
- OpenAI가 마케팅 전략에서 선구적인 접근을 하고 있다는 의견이 있음. "우리는 이 캐비닛 안에 강력한 AGI를 가지고 있으며, 너무 강력해서 풀어주고 싶지 않다"는 식의 메시지로 사람들로부터 돈을 받아 안전을 유지하겠다고 주장하고 있음.
- 한 부모가 자신의 12살짜리 아들과 수학의 지루한 부분에 대해 대화를 나누었고, 아들은 절대값이 매우 쉽고 지루하다고 생각한다고 말함. 복소수를 사용하면 더 흥미로울 수 있다는 아들의 의견을 듣고, 부모는 복소평면에서 절대값이 실수와 허수의 빗변임을 이해하고 있다는 것을 알게 됨. 이러한 이해는 단순히 많은 동의어 사전을 가지고 있는 결과가 아니라, 기본적인 메커니즘에 대한 이해에서 비롯된 것임. 대규모 언어 모델이 어떤 과정을 통해 이와 같은 결론에 도달할 수 있는지에 대한 질문이 제기됨.