10P by xguru 4달전 | favorite | 댓글 9개
  • 최근 연구에 따르면 제품에 "AI" 라벨을 붙이는 것이 실제로 사람들을 멀어지게 할 수 있음
  • 동일한 제품에 대해 하나는 "하이테크"로, 다른 하나는 "AI"를 사용한다고 설명했을 때 사람들의 구매 의도가 현저히 낮아짐
  • 가정용 제품, TV, 소비자 서비스, 건강 서비스 등 여러 제품을 살펴보았고, 제품 설명에 "AI"를 언급할 때마다 구매 또는 사용 의도가 크게 낮아짐

신뢰의 역할

  • "Journal of Hospitality Marketing & Management" 에 발표된 새로운 연구에 따르면, 연구자들은 1,000명의 응답자에게 제품에 대한 질문과 설명을 제시함
    • 놀랍게도 AI를 사용한다고 설명된 제품은 일관되게 인기가 낮았음
  • 연구에는 AI를 사용하는 가전제품 등 "저위험"으로 간주되는 제품과 자율주행차, AI 기반 투자 의사결정 서비스, 의료 진단 서비스 등 "고위험"으로 간주되는 제품에 대한 참가자의 견해를 조사한 내용이 포함
  • 구매하지 않겠다는 비율이 고위험군에서 더 높았지만, 두 제품군 모두 구매하지 않는 사람이 대다수였음
  • "AI-powered"으로 설명되는 제품에 대한 소비자의 인식에 인지적 신뢰와 감정적 신뢰라는 두 가지 신뢰가 작용함
    • AI가 인간의 실수가 없는 기계라고 기대하는 인지적 신뢰는 AI가 실수를 하면 빠르게 약화될 수 있음 (구글 사례)
    • AI의 내부 작동에 대한 지식과 이해가 부족하면 소비자는 감정적인 신뢰에 의존하고 기술에 대한 주관적인 판단을 내릴 수밖에 없음
      • "사람들이 AI 기기나 기술을 사용하지 않으려는 이유 중 하나는 미지의 세계에 대한 두려움 때문"
      • "ChatGPT가 도입되기 전에는 AI에 대해 아는 사람이 많지 않았지만, AI는 수년 동안 백그라운드에서 실행되어 왔으며 전혀 새로운 것이 아님"
  • 그리고 AI가 대중 문화에서 묘사되는 방식도 기술에 대한 신뢰를 높이는 데 도움이 되지 않음
    • 로봇을 악당으로 캐스팅한 할리우드 공상과학 영화가 AI에 대한 대중의 인식을 형성하는 데 생각보다 더 큰 영향을 미쳤음
    • "사람들이 AI에 대해 들어보기도 훨씬 전부터, 그 영화들은 AI가 움직이는 로봇이 인간에게 어떤 일을 할 수 있는지에 대한 사람들의 인식을 형성했습니다."

투명성 부족

  • 소비자에게 영향을 미치는 또 다른 요인은 AI를 둘러싼 인식된 위험, 특히 사용자의 개인 데이터 처리 방식임
  • 기업이 고객 데이터를 관리하는 방식에 대한 우려가 사용자 경험을 간소화하기 위한 도구에 대한 기대감을 낮추고 있음
  • 투명성 부족은 브랜드에 대한 고객의 인식을 악화시킬 수 있는 잠재력이 있음
  • 기업은 AI의 기능을 자세히 설명하지 않고 유행어로 "AI" 태그를 붙이는 것을 경계해야 함
    • "그들이 해야 할 가장 바람직한 일은 올바른 메시지를 내놓는 것"
    • "단순히 'AI-powered' 또는 'run by AI'라고 말하는 것보다 이것이 어떻게 도움이 될 수 있는지 사람들에게 말하면 소비자의 두려움을 덜어줄 것"

LLM이 현재까지 내놓는 결과물의 품질만 놓고 봤을 때, AI 딱지를 붙여서 파는건 '우리는 뭘 하는지 맥락을 모르는 저숙련 작업자를 데려다 쓰고, 결과물을 전문가가 검토할지 말지는 우리 맘입니다'라고 광고하는 셈입니다. 기계학습은 그나마 거품이 한차례 지나가긴 했지만 AI로 포장되면 소비자에게 주는 뉘앙스는 비슷한 것 같구요

신뢰는 결과의 정확성과 회사의 전문성을 포함한 다른 요인에서 나오는 건데 AI문구가 들어갔다는 이유로 누가 신뢰를 할까요

개인적으로 붙으면 일단 이미지 안좋아지는 문구는

  • 게임에서의 "with kakao"
  • 기사, 타이틀 등에서 사용되는 "게임 체인저"
    도 있내요

ㅇㅇㅇ 게 섯거라, K-ㅇㅇㅇ

특히, 가전제품 구매할 때 AI 라벨이 붙어있으면 냉소적으로 반응했던 거 같습니다. "잘 안 쓰는 기능을 AI라고 붙여놓고 비싸게 팔아먹네" 이런 느낌?

휴머노이드 판다고 하면 살걸?
기사에 자율주행 있는거 보고
이게 ai단어랑 무슨 상관이지 했다
안전한 ai면 사겠지 ㅋㅋㅋㅋㅋ
우리나라에 it일하는 사람이
얼마인데 사기치려다 걸린
케이스지 ai단어와는 상관없는듯

오히려 it 쪽에서 일하는 사람이 많기 때문에 냅다 AI만 박아 놓은게 얼마나 허황된지 아는거죠 ㅋㅋ

저도 eze886님 의견에 동의합니다. 기사를 읽고 느낀 바로는 AI가 사람들에게서 어느 정도의 신뢰를 얻기까지 가야 할 길이 멀어 보이네요.

사람들이 알고리즘, 기계학습, 컨텐츠생성, 거대언어모델을 퉁쳐서 AI라고 하기 때문에 혼란이 더 심해지고 있습니다 어쩔 수 없는 현상이긴 한데 씁쓸하네요

AI 붙여놓고 비싸게 팔아서가 아니고?