Hacker News 의견

• OpenAI, 약속대로 GPT-3.5 세부조정을 출시, 몇 달 전 GPT-4 API 접근 개방 이후.
• 충분히 개방적이지 않다는 비판에도 불구하고, OpenAI는 Llama와 Bard와 같은 다른 오픈소스 AI를 앞서는 빠른 혁신으로 인정받음.
• 세부조정된 GPT-3.5 Turbo로 생성하는 비용은 기본 모델보다 8배 높아, 프롬프트 크기를 크게 줄일 수 있는 사람들에게만 비용 효과적임.
• 세부조정된 GPT-3.5 Turbo와 Llama2 모델 간의 비교가 요구되며, 후자는 임대 인프라가 필요함.
• 일부 사용자들은 GPT-3.5 Turbo가 반복적이고 부정확하여 글쓰기와 코딩에 부적합하다고 느끼는 반면, 다른 사용자들은 GPT-4가 훨씬 더 나아지고 교육이나 문제 해결 보조 도구로 유용하다고 느낌.
• 사용자들 사이에서 원하는 기능은 제3자 도구의 필요성을 제거하기 위한 내장 프롬프트 분할 기능임.
• OpenAI가 "안전하지 않은" 모델을 제공하지 않기로 한 결정이 주목되었으며, davinci-002와 babbage-002 모두 "안전하지 않은" 완성에 대해 무한 루프에 빠짐.
• 세부조정 훈련 데이터는 OpenAI의 Moderation API와 GPT-4 기반의 검열 시스템을 통과하며, 이는 높은 비용 때문에 "안전성"이 모호할 때만 사용되는 것으로 추측됨.
• 세부조정 작업에 필요한 토큰 수를 어떻게 계산하고, 기본 모델의 행동에 효과적으로 영향을 미치기 위해 일반적으로 얼마나 많은 세부조정 데이터가 필요한지에 대한 질문이 제기되었음.
• "Chat" 모델의 세부조정 가능성은 흥미롭게 느껴지며, 세부조정된 모델을 사용하여 현재의 AI 탐지기를 우회할 가능성에 대한 질문이 제기됨.
• 개인정보 보호에 대한 우려가 제기되었으며, OpenAI 또는 Microsoft가 API 호출로부터의 텍스트를 얼마나 오래 저장하는지에 대한 질문이 제기됨.
• 전반적으로, GPT-3.5 Turbo 세부조정의 출시는 긍정적인 발전으로 봐지며, 16k 세부조정에 대한 기대감이 있음.