Hacker News 의견

• AI가 사람의 목소리를 모방해 신성모독적인 발언을 할 경우, 폭력 사태가 발생할 수 있음

  • 일부 국가에서는 신성모독으로 인해 폭력적인 린치가 발생하고 있음
  • AI 기술이 발전하면서 이러한 문제가 더 확산될 가능성이 있음
  • 이는 명성, 보안, 저작권과는 무관하게 사람들의 생명을 위협할 수 있음
  • 이를 통제할 도구가 부족함

• AI를 사용해 목소리를 복제하는 것은 Midler vs. Ford 사건에서 벗어날 수 없을 것임

  • AI를 사용해 목소리를 복제하는 것은 다른 성우를 사용하는 것보다 더 방어하기 어려움

• 선례는 중요하지만, 기술의 발전으로 인해 새로운 원칙이 필요함

  • 기술이 새로운 능력을 도입할 때, 이를 사람들에게 유익하게 사용할 수 있는 경계를 설정해야 함
  • 그렇지 않으면 강자가 원하는 대로 하고 약자는 고통받는 세상이 될 수 있음

• LLMs가 궁극의 리믹스 기계라면, RAG를 가진 사람은 디지털 DJ가 될 수 있음

  • 디지털 정보의 도둑질이 무엇을 의미하는지 의문이 생김
  • 법적 선례가 부족한 상황에서 지적 재산권과 저작권 법은 마치 서부 개척 시대와 같음
  • Scarlett Johansson조차 OpenAI의 모방에 대해 고통스러운 편지를 쓸 수밖에 없는 상황에서, 일반적인 사람들은 어떻게 대응할 수 있을지 의문임
  • Geerling처럼 슬프고 화가 나지만, "모든 선한 것을 위해 친절하고 명예 코드를 따르라"고 말할 수밖에 없음

• AI 부분을 제외하더라도, Jeff의 의견을 왜곡하거나 그의 이미지를 무단으로 사용하는 것은 잘못된 것임

  • 그의 목소리를 사용함으로써 제품에 대한 암묵적인 (조작된) 지지를 만드는 것은 매우 잘못된 것임
  • 이러한 사례를 다루는 법률이 이미 존재할 것임

• 나는 작은 기술 유튜버로서 Elecrow와 접촉한 적이 있음

  • Elecrow뿐만 아니라 직원들이 장기적인 파트너십과 비디오 협업을 확보하면 보상, 승진, 커미션을 받음
  • 아마도 누군가가 Jeff의 목소리를 복제하는 것이 영리하다고 생각했을 것임
  • 이는 Elecrow에게 좋은 PR이 아님
  • 그들이 이것이 의도적이었다고 고백할지 궁금함

• 나는 그것이 그다지 비슷하다고 생각하지 않음

  • 약간 비슷하지만 다름
  • 약간 더 높은 음조, 더 비음, 그리고 억양이 약간 다름

• 우리는 수백 가지의 목소리 복제 도구를 가지고 있음

  • 물론 복제된 목소리로 된 콘텐츠가 나올 것임
  • 무단으로 사용된 이미지와 마찬가지로, 플랫폼과 그들의 관리 팀은 이를 신고하고 제거하는 절차를 가지고 있음
  • 목소리에 대해서도 비슷한 것이 필요함

• 변호사는 항상 많은 돈이 든다고 말할 때: 나는 절대적으로 무료로 이 일을 할 것임

  • 하지만 아마도 당신이 내가 면허를 가진 주에 있지 않을 가능성이 큼
  • 만약 당신의 문제가 충분히 흥미롭다면 무료 변호사를 찾을 수 있음
  • 이것은 <i>우리 시대의 가장 흥미로운 문제</i>임

• Elecrow는 중국 회사인 것 같음

  • 그렇다면 어떤 답변도 기대하지 않음