Hacker News 의견

• 철학적 수준에서, 지식에 대한 접근과 그 통제권을 둘러싼 문제는 매우 중요함.

  • 단기적 해악을 방지하려는 시도가 장기적으로 의도치 않은 해를 끼칠 수 있음.
  • 기술 학습 방법의 변화로 인해 과거의 깊은 지식을 다루는 블로그 글, 튜토리얼, 책 등이 점점 구식이 되고 쓰이지 않게 될 것임.
  • 인공지능이 주된 학습 수단이 되면서, 기존의 학습 자료들이 점차 사라질 것이며, 새로운 지식에 대한 AI의 설명이 유일한 정보원이 될 수 있음.
  • 이러한 미래가 놀라울 수 있으나, 구글 등의 접근 방식이 바뀌지 않는다면 문제가 될 수 있음.
  • 새로운 계몽 시대가 필요할 수 있으며, 지식과 이단적인 의견에 대한 두려움을 극복해야 할 것임.

• "unsafe"라는 단어에 대한 반응으로 인해 발생한 문제인 듯함.

  • "unmanaged"라는 단어로 질문했을 때는 합리적인 답변을 받음.
  • 모델에 단순한 필터링을 적용하는 것이 아니라, 올바른 방식으로 필터링을 하고자 한다면 더 심도 있는 접근이 필요함.

• 구글 딥마인드 내의 AI 안전 팀이 모델의 유용성을 크게 제한하는 것에 대한 불만이 있을 수 있음.

• AI가 질문에 대한 답변을 거부하지 않더라도, 가르치려 드는 태도가 상당히 교만하게 느껴짐.

• 도구 사용 시 관리자나 개발자의 편견으로 인해 누군가를 불쾌하게 할 수 있는 질문이나 답변을 받지 못하는 것에 대한 의문 제기.

• Django 템플릿에 관한 질문에 대해 AI가 관련 없는 답변을 제공함.

  • 사용자는 스스로 해결할 수 있지만 AI의 반응을 보고 싶었음.

• 평균적인 Stack Overflow 답변을 과도하게 샘플링한 것 같음.

• ChatGPT와 Gemini Pro에게 파트너를 설득하는 메모 작성을 요청했을 때, Gemini는 조작 시도로 간주하며 도움을 거부함.

  • ChatGPT는 2페이지 분량의 메모를 제공함.

• AI 관련 웹사이트 링크 제공.