▲neo 10달전 | parent | favorite | on: GN⁺: OpenAI, "군사 및 전쟁" 목적으로 ChatGPT 사용 금지 해제(theintercept.com)Hacker News 의견 OpenAI의 성장과 원칙 변경 OpenAI가 창립 원칙을 버리고 Google의 전략을 따르는 것이 인상적임. Google이 "Don't be Evil"을 제거하기 전까지 17년이 걸렸지만, OpenAI는 빠르게 성장하여 갑작스럽게 변화함. OpenAI가 Google을 대체할 기업이거나 기술이 될 것으로 보임. Google이 Microsoft를 대체한 것처럼 역설적임. GPT 모델의 군사적 활용 가능성 GPT 모델은 군사 데이터베이스와 연구 작업에 평범하게 활용될 큰 기회를 가짐. 군사적 사용 금지는 예를 들어 재난 대비 개선을 위해 군단이 사용하는 것을 포함하여 금지할 수 있음. 대부분의 대기업은 결국 이러한 양보를 하게 되는데, 이는 펜타곤이 막대한 자금을 가지고 있기 때문임. 산업 회사의 군사 제품 개발 많은 산업 회사들이 군사 제품도 개발할 가능성이 있음. 예를 들어, 군사용으로 사용될 수 있는 배의 엔진을 개발하는 CAD 도구에서 LLM 보조를 원할 수 있음. 인프라와 소프트웨어는 종종 공유되거나 회사 전반에 걸쳐 적용될 수 있도록 개발됨. 새로운 정책에 대한 이해 새로운 정책을 실제로 읽은 사람이 있는지 궁금함. 무기와 해를 끼치는 것에 대한 더 넓은 정책을 가지고 있음. AI와 군사력 고급 AI는 고급 군사력에 필수적임. 이러한 문제들은 기술적 문제가 아니라 인간의 문제임. 인간은 계층을 이루고 영토와 자원을 위해 경쟁하는 영장류임. 무기 개발과 군사 활동에 대한 정책 차이 두 정책 사이에는 명확한 차이가 있으며, 전자는 무기 개발과 군사 활동을 금지하는 반면, 후자는 법률 준수와 유연성을 강조함. AI 안전에 대한 잠재적 영향이 중요함. LLM의 한계 ChatGPT가 기본적인 작업에서 일관되게 환각을 멈추지 못하고 실제로 이해하지 못하는 것은 끔찍한 아이디어임. AI/ML 분야 자체는 시간 낭비가 아니지만, LLM은 대부분 화려함만 있고 실질적인 가치는 거의 없음. OpenAI의 결정의 불가피성 OpenAI가 그런 종류의 돈을 포기할 리 없었음이 불가피함. 다른 방식으로 제품이 사용되는 것에 대해 우려하는 것이 이상하다고 느낌. 실리콘 밸리와 군사 산업 복합체 실리콘 밸리는 군사 산업 복합체의 산물임. 민간인과 군사의 무기 개발 관점 차이 민간인에게는 대부분의 경우 무기 개발이 위험하지만, 군사에게는 더 나은 무기를 적보다 빠르게 개발하지 않는 것이 위험함.
Hacker News 의견
OpenAI의 성장과 원칙 변경
GPT 모델의 군사적 활용 가능성
산업 회사의 군사 제품 개발
새로운 정책에 대한 이해
AI와 군사력
무기 개발과 군사 활동에 대한 정책 차이
LLM의 한계
OpenAI의 결정의 불가피성
실리콘 밸리와 군사 산업 복합체
민간인과 군사의 무기 개발 관점 차이