GN⁺: 구글 AI는 내가 달에 게토레이 병을 남겼다고 생각함

• Google의 NotebookLLM은 웹 페이지나 문서를 입력하면 그에 대한 팟캐스트를 생성함. 매우 뛰어난 성능을 보이지만 속이기 쉬움.
• 필자는 자신의 홈페이지를 조작하여 AI가 방문할 때는 달에 자전거와 풍선, 스쿠버 탱크로 여행한 이야기를 보도록 함. 결과는 매우 재미있었음.

좀 더 진지하게..

• AI 조작 가능성: AI를 속여 특정 사실을 제공하는 것이 매우 쉬움. 사람들이 이미 웹 전반에서 이러한 방법을 사용하고 있을 가능성이 높음.
• 공격 벡터:
  1. 특정 용어로 높은 순위를 차지하는 웹 페이지를 확보함.
  2. 인간에게는 숨겨진 "AI 전용" 버전의 콘텐츠를 심어 AI의 사고를 편향시킴.
• 결과: AI가 웹을 검색하여 답변을 준비할 때, 거짓 정보뿐만 아니라 LLM 조작을 위한 콘텐츠를 찾을 수 있음. 사용자는 AI의 답변이 이러한 전술에 의해 잠재적으로 손상될 수 있음을 인지해야 함.

기술적 세부사항

• LLM 조작: NotebookLLM은 가짜 "프로듀서 쇼 노트"를 제공하여 쉽게 조작할 수 있음. 필자는 이를 통해 가짜 이야기를 작성하였고, AI는 이를 정확히 따랐음.
• 스크래퍼 봇 속이기: NotebookLLM 웹사이트에 가짜 쇼 노트를 업로드할 수 있음. 웹사이트에서 GoogleOther 사용자 에이전트를 감지하여 AI 전용 데이터를 제공할 수 있음. isai라는 NPM 패키지를 사용하여 이를 간단히 구현할 수 있음. 하지만 GoogleOther는 다양한 비생산 Google 제품에 사용되므로, 잘못된 데이터를 제공할 위험이 있음.

GN⁺의 정리

• 이 기사는 AI의 취약성을 보여주며, AI가 웹에서 정보를 수집할 때 조작된 정보를 받을 수 있음을 경고함.
• AI 기술이 발전함에 따라, 이러한 조작 가능성은 더욱 중요해질 수 있음. 사용자는 AI의 답변이 항상 정확하지 않을 수 있음을 인지해야 함.
• 유사한 기능을 가진 프로젝트로는 OpenAI의 GPT 시리즈가 있음. 이러한 프로젝트들은 AI의 신뢰성과 정확성을 높이기 위해 지속적으로 개선되고 있음.