▲

AI의 롱테일

 (research.contrary.com)
11P by xguru 10일전 | favorite | 댓글과 토론
  • 2022년 11월 ChatGPT 출시 이후, AI 스타트업은 투자자들의 집중적인 관심을 받았으며, 2024년 2분기 전체 벤처 자금의 49%가 AI 및 머신러닝 스타트업에 투자됨.
  • OpenAI와 같은 모델 제공업체, Perplexity나 Jasper와 같은 AI 네이티브 회사들이 주목받고 있지만, 실제로 AI의 영향을 받는 "비AI" 회사들의 수가 더 많음.
  • 우리는 이러한 비AI 회사들에 미치는 AI의 영향을 "AI의 롱테일"이라 부르며, 이 롱테일은 회사들이 AI를 통합하는 방식에 따라 네 가지 범주로 나눌 수 있음:
    • 독립적인 모델 구축
    • OpenAI의 GPT-4와 같은 기존 모델 활용
    • Meta의 Llama와 같은 오픈 소스 모델을 기반으로 구축
    • ChatGPT와 같은 사전 개발된 AI 도구 사용
  • 독립적이고 독자적인 모델 구축은 AI를 활용하는 가장 자원 집약적인 방식이며, 일반적으로 대규모의 독창적인 데이터 소스를 가지고 있으며, 새로운 모델을 훈련할 충분한 인적 및 재정적 자원을 가진 회사에 적합함.
  • OpenAI의 GPT 모델이나 Anthropic의 Claude와 같은 닫힌 소스 모델들은 수십억에서 수조 개의 매개변수로 훈련되었으며, 코딩에서 고객 서비스에 이르기까지 다양한 분야에서 정확하고 세부적인 결과를 생성할 수 있으며, API로 쉽게 접근 가능함.
  • Mistral이나 Meta의 Llama와 같은 오픈 소스 모델들은 강력한 도구로, Llama 3.1은 4050억 개의 매개변수로 훈련됨. 닫힌 소스 모델과 달리, 오픈 소스 모델은 투명성과 유연성을 제공하며, 모델 가중치를 조정하여 고객의 특정 요구에 맞출 수 있음.
  • ChatGPT와 같은 서드파티 AI 도구는 통합이 가장 쉬우며, 고객들은 내부적으로 모델을 구축하거나 조정할 필요 없이 완성된 도구를 사용할 수 있음.
  • AI 전략은 회사마다 다르지만, 성공적인 회사들은 AI를 기존 사업을 보완하는 데 사용하고 있으며, 동종 업계의 성공 사례를 모방하고, AI 기술이 발전함에 따라 유연성을 유지하고 있음.

AI에서 Hype의 파워 법칙

  • 정규분포 vs. 파워 법칙: 정규분포는 IQ, 시험 점수, 혈압 등 일상에서 흔히 볼 수 있는 분포로, 평균값 주변에 데이터가 몰려 있음. 반면, 세상의 많은 현상들은 소수의 극단적인 사례가 대부분의 결과를 결정하는 파워 법칙에 의해 정의됨.
    • 예를 들어, 2023년 S&P 500 지수의 상승률 절반 이상은 1.4%에 불과한 7개의 주식이 차지함.
    • 벤처 캐피탈에서도 소수의 성공적인 투자가 펀드의 대부분의 수익을 차지함. 예: Union Square Ventures 창립자 Fred Wilson은 "한 건의 투자로 전체 펀드의 수익을 올릴 수 있다"고 언급함.
  • AI 분야에서의 파워 법칙: Dot Com 버블 때 인터넷 회사에 자본이 집중되었던 것처럼, 2024년에는 AI 분야가 유사한 하이프를 보이고 있음.
    • YCombinator의 2024년 여름 코호트에서 75% 가 AI 관련 제품을 개발 중임.
    • 2024년 2분기 벤처 캐피탈 투자 중 49% 가 AI 및 머신러닝 스타트업에 집중되었음(2022년 2분기에는 29%였음).
    • 2020년 초창기 AI, SaaS, 핀테크 기업의 중간 평가액은 각각 $25M, $27M, $28M이었으나, 2024년에는 $70M, $46M, $50M으로 증가함.
    • OpenAI는 적자였지만, 2024년 10월 $157B 평가로 새로운 자본을 유치함(매출 대비 39배의 가치 평가).
  • AI 네이티브 스타트업의 한계: 생성형 AI와 LLM의 출현으로 AI가 기업의 핵심 제품으로 자리잡고 있음. 그러나 AI 네이티브 회사들이 투자자의 관심을 독점하고 있는 동안, 비AI 회사들도 AI 기술 발전의 영향을 받음. 대부분의 기업들은 본질적으로 AI 회사가 아니지만, AI의 발전이 그들의 비즈니스 모델에 큰 영향을 미칠 것임.
  • 인터넷의 롱테일에서 AI의 롱테일로: Dot Com 버블 이후, 인터넷 트렌드를 따라 적응한 비인터넷 회사들이 큰 성공을 거두었음. 예를 들어, Walmart는 1962년에 설립되었지만, 2023년 전자상거래 매출이 $73B에 달하며, 2017년 대비 5배 성장함.
    • 오늘날에는 "AI의 롱테일"이 등장하고 있으며, 이는 핀테크, SaaS, 헬스케어, 전자상거래, 물류 등 다양한 산업 분야의 비AI 회사들을 포함함.
  • AI의 광범위한 영향: 사전 구축된 AI 도구 사용부터 내부 워크플로우에 AI를 통합하는 것까지, 다양한 산업의 회사들이 AI를 활용하거나 활용을 시도하고 있음. 인터넷이 비인터넷 회사들에 미친 영향처럼, AI도 단순히 AI 모델을 구축하는 회사들에만 국한되지 않는 광범위한 영향을 미칠 것임.

AI의 롱테일 정의

  • AI 회사들은 AI에 대한 관심과 투자의 대부분을 차지하며, 두 가지 카테고리로 나눌 수 있음:
    • 모델 회사: OpenAI, Anthropic, Mistral과 같이 독점 또는 오픈 소스 LLM(대형 언어 모델)을 개발하여 사용자에게 제공하는 회사들.
    • AI 네이티브 회사: Perplexity, Jasper처럼 AI 모델을 기반으로 제품과 서비스를 제공하는 회사들.
  • 첫 번째 카테고리에서는 모델 자체가 제품임. 두 번째 카테고리에서는 AI 모델이 기능의 핵심을 이루지만, 모델이 없으면 회사 자체가 존재하지 않음. 예를 들어, Baseten의 CEO Tuhin Srivastava는 "모델이 없다면 AI 네이티브 회사는 존재하지 않는다"고 설명함.
  • 그러나 대부분의 회사들, 예를 들어 Bloomberg, Walmart, Canva 등은 이 두 카테고리에 속하지 않음. 이들은 "AI의 롱테일"이라 불리는 더 넓은 범주에 속함.
  • 롱테일의 주요 질문들
    • AI 기술의 발전은 ChatGPT 출시 이전부터 존재했던 비즈니스 모델에 어떤 영향을 미칠 것인가?
    • 컨설팅 회사의 분석가부터 기술 회사의 소프트웨어 엔지니어까지, 다양한 산업의 직원들이 AI를 어떻게 사용하고 있으며, 앞으로 어떻게 사용할 것인가?
    • 회사들은 AI 시장에서 어떻게 포지셔닝하고 있는가? 자체 모델을 구축하고 있는가, 아니면 외부에서 개발된 도구를 사용하고 있는가?
  • 다양한 회사들의 AI 활용 사례
    • 예: Ramp(비용 관리 플랫폼)와 Atlassian(호주 SaaS 회사)은 기존 데이터와 워크플로우 위에 생성형 AI를 추가함.
    • Klarna(스웨덴 핀테크 회사)는 내부 운영 효율성을 개선하기 위해 AI에 투자했으며, AI 챗봇이 700명의 풀타임 고객 서비스 직원을 대신할 정도의 성과를 보였음.
    • PwC는 2024년 5월에 ChatGPT Enterprise 기능을 10만 명의 직원에게 제공하기로 계약함. 또한, 2024년 미국 상공회의소 설문조사에서 98%의 중소기업이 AI 도구를 사용하고 있다고 응답함.
  • 과거와 현재의 비교
    • 인터넷 붐 이후, 비인터넷 회사들이 전자상거래 채택을 통해 큰 성공을 거둔 사례와 유사하게, "AI의 롱테일"은 다양한 산업에 걸쳐 비AI 회사들이 AI의 영향을 받을 것임.
    • 인터넷이 비인터넷 회사들에 광범위한 영향을 미쳤듯이, AI도 단순히 AI 모델을 구축하는 회사들에 국한되지 않고 더 넓은 경제에 영향을 미칠 것임.
  • AI 롱테일의 네 가지 레이어
    • 독립적인 내부 AI 모델 구축: 독점적인 데이터세트를 활용해 자체 AI 모델을 구축하는 회사들.
    • 닫힌 소스 모델 활용: OpenAI, Anthropic 등의 닫힌 소스 모델을 사용하는 회사들.
    • 오픈 소스 모델 활용: Llama, Mistral, Hugging Face의 모델을 사용하는 회사들.
    • 사전 구축된 AI 도구 통합: 이미 개발된 AI 도구를 워크플로우에 통합하는 회사들.
  • 이 네 가지 레이어는 고정된 것이 아니며, 다양한 방식으로 AI를 사용하는 회사들은 여러 레이어에 걸쳐 분류될 수 있음. AI 기술의 빠른 발전에 따라 회사들이 AI를 활용하는 방식도 계속 변화하고 있음.

레이어 1: 자체 모델 구축

  • 가장 자원 소모적인 전략: AI의 롱테일에서 가장 비용이 많이 드는 전략은 독립적인 모델을 처음부터 구축하는 것임. 이 전략에 적합한 회사는 (1) 자본이 풍부하고 (2) 독점적인 가치 있는 데이터세트를 보유한 회사임.
    • 예: Sam Altman에 따르면, GPT-4의 훈련 비용은 $100M에 달함.
    • 자체 모델은 높은 비용이 들지만, 독점적인 데이터세트를 보유한 회사에게는 (A) 더 세밀하고 회사 맞춤형 결과를 제공하며, (B) 모델과 가중치에 대한 완전한 통제력을 제공하고, (C) 닫힌 소스 모델 대비 비용 절감의 가능성을 제공함.
  • 블룸버그 (Bloomberg)
    • Bloomberg는 뉴욕에 본사를 둔 금융 데이터 및 미디어 회사로, 연간 $12B 이상의 수익을 올리고 있음. 회사의 대표 제품인 Bloomberg Terminal은 전체 매출의 약 2/3를 차지함.
    • Bloomberg는 8천 명 이상의 엔지니어 중 350명 이상이 AI 엔지니어링 팀 소속이며, 다양한 AI 연구 논문을 매년 발표함.
    • 2023년 3월, Bloomberg는 금융 특화 LLM인 BloombergGPT를 발표함. 이 모델은 총 50B 파라미터로 구성되었으며, 345B 개의 공개 데이터셋과 40년간 수집한 363B 개의 금융 문서 데이터셋을 결합해 훈련됨.
    • 훈련 비용은 $2.7M에서 $10M 이상으로 추정됨.
    • 2024년 1월, Bloomberg는 자체 모델로 추정되는 AI 생성 요약 기능을 Terminal에 도입했으며, 이는 사내 분석가들의 도움을 받아 훈련됨.
  • 리플릿 (Replit)
    • Replit은 웹 기반의 통합 개발 환경(IDE)으로, 협업 및 코드 자동 완성, 디버깅 기능을 제공함.
    • Replit의 AI 기능은 독자적으로 개발된 모델, 오픈 소스 모델의 파인튜닝, 그리고 OpenAI 및 Anthropic의 닫힌 소스 모델을 결합하여 제공됨.
      • 2023년 4월과 10월, Replit은 자체 코드 완성 모델을 출시하였으며, 이를 Hugging Face에서 공개함.
      • 2024년 4월, 오픈 소스 모델을 파인튜닝하여 자동 디버깅 기능을 출시함.
      • 2024년 9월, 자체 7B 파라미터 모델 기반의 자동 페어 프로그래머를 출시했으나, 일부 사용자들은 초기 기능에 대해 불만을 표했음.
  • 캔바 (Canva)
    • Canva는 호주 기반의 웹 디자인 플랫폼으로, 2024년 10월 $49B의 평가를 받음.
    • 2023년 10월, Canva는 Magic Studio라는 생성형 AI 디자인 스튜디오를 출시함. 이 스튜디오는 사용자들이 생성한 콘텐츠를 훈련 데이터로 사용하여 "독점 모델"을 구축함.
      • 사용자 데이터는 허가 없이 사용되지 않으며, 참여한 사용자들에게는 보상을 지급함.
    • 2024년 7월, Canva는 이미지 생성 플랫폼 Leonardo.Ai를 인수하여 Magic Studio에 통합할 계획임.
  • 월마트 (Walmart)
    • Walmart는 2018년부터 고객 대면 AI 도구를 구축해왔으며, 2024년 6월에는 모든 생성형 AI 기능에서 자체 모델로 전환함.
      • 2024년 10월, Walmart는 Wallaby라는 리테일 특화 LLM을 발표함. 이 모델은 Walmart의 데이터로 훈련되어 고객 서비스와 관련된 자연스러운 응답을 생성함.
    • Walmart는 AI를 활용해 고객 지원 챗봇, 상품 카탈로그 정리, 증강 현실 쇼핑 경험 등을 개선하고 있음. 또한, Roblox와 같은 온라인 플랫폼에서 가상 쇼핑 경험도 제공함.
    • Walmart는 자체 모델을 선호하지만, 특정 사용 사례에 따라 타사 모델도 여전히 사용할 계획임.

레이어 2: 기존 닫힌 소스 모델 사용

  • 독립적으로 모델을 구축하는 대신, 회사들은 OpenAI, Anthropic 등의 닫힌 소스 AI 모델을 API로 접근해 자체 솔루션을 구축할 수 있음.
  • 닫힌 소스 모델은 다양한 분야에서 정확한 출력 결과를 제공할 수 있어 전사, 고객 서비스, 데이터 추출 등의 일반적인 작업에 유용함.
    • OpenAI의 GPT 및 Anthropic의 Claude 모델은 매우 높은 품질의 출력을 제공함.
  • API 접근의 용이성 덕분에, 엔지니어링 측면에서 AI 도입이 가장 쉬운 방법 중 하나로 꼽힘.
  • 최근에는 비용 효율성과 빠른 추론 성능을 제공하기 위해 GPT-4o mini와 같은 소형 모델도 출시됨.
  • Zapier
    • Zapier는 워크플로 자동화 플랫폼으로, 2011년에 설립되었으며 2023년 8월 기준으로 $5B의 평가를 받음.
    • OpenAI 모델을 활용해 내부 자동화 프로세스를 개선하며, 예를 들어 회의 녹취록 생성 및 요약 기능과 웹 기사 요약 기능 등이 있음.
    • Zapier의 Copilot 도구는 자연어 프롬프트를 사용해 워크플로를 생성할 수 있게 해줌.
  • Klarna
    • Klarna는 스웨덴의 핀테크 회사로, "Buy Now, Pay Later" 서비스를 제공하며 2024년 9월에는 Salesforce와 Workday를 AI로 대체한다고 발표함.
    • OpenAI 모델을 활용한 고객 서비스 AI 어시스턴트를 통해 고객 지원 요청의 2/3를 처리하며, 700명의 풀타임 인력의 업무량을 대체함.
    • 내부적으로는 AI 어시스턴트 Kiki를 사용해 직원들이 매일 2천 개 이상의 질문에 답변할 수 있게 돕고 있음.
  • Ramp
    • Ramp는 2019년에 설립된 B2B 핀테크 스타트업으로, 다양한 재무 소프트웨어 제품을 제공함.
    • GPT-4 및 Claude 모델을 사용해 계약서 데이터 분석, 거래 분류, 영수증 메모 작성 등을 자동화함.
    • 내부적으로는 AI를 사용해 고객 통화 요약 및 질의 응답 기능을 제공하며, 이는 Slack과 통합되어 있음.
  • Atlassian
    • Atlassian은 Jira, Trello, Confluence 등의 팀 협업 소프트웨어를 제공하는 $50B 평가의 기업임.
    • 2023년 4월에 Atlassian Intelligence라는 생성형 AI 기능을 발표함.
    • 이 기능은 OpenAI 모델과 Atlassian의 자체 모델을 결합해 사용함.
    • AI 어시스턴트 Rovo는 Jira 검색 기능을 강화하고, No-Code 에이전트를 통해 마케팅 콘텐츠 생성과 피드백 수집 등을 자동화함.
  • Canva
    • Canva는 Magic Studio에서 독점 모델을 사용하지만, 일부 기능에는 닫힌 소스 모델을 활용함.
      • 예: OpenAI 모델을 사용한 글쓰기 편집기는 업로드된 샘플의 톤을 맞추어 콘텐츠를 생성함.
    • Canva는 또한 다양한 AI 앱 마켓플레이스를 운영하며, 여기에는 OpenAI의 DALL-E, Google의 Imagen 앱 등이 포함됨.

레이어 3: 오픈 소스 모델 기반 개발

  • 독립적으로 모델을 구축하거나 OpenAI의 GPT-4o 같은 닫힌 소스 모델을 사용하는 대신, 많은 회사들이 Meta의 Llama, Mistral, Hugging Face 등의 오픈 소스 모델을 활용해 자체 도구를 구축하고 있음.
  • 오픈 소스 모델은 높은 사용자화와 투명성, 데이터 프라이버시 강화, 비용 절감의 이점을 제공함.
    • Databricks의 2024 보고서에 따르면, LLM을 사용하는 기업의 76% 가 오픈 소스를 선택하고 있음.
  • 오픈 소스 모델은 별도의 라이선스 비용이 없고 자체 호스팅이 가능해, 대규모 클라우드 비용을 피할 수 있음.
  • 기업 고객의 경우, 저작권 문제와 데이터 유출 위험이 낮아지는 점도 중요한 요인임.
  • VMware
    • VMware는 가상화 소프트웨어 제공업체로, 2023년에 Broadcom에 $69B 에 인수됨.
    • VMware는 Hugging Face와 협력하여 SafeCoder라는 오픈 소스 기반의 코딩 어시스턴트를 개발함.
    • StarCoder라는 15.5B 파라미터 모델을 활용했으며, 이 모델은 오픈 소스 프로젝트에서 데이터를 수집해 저작권 문제를 최소화함.
    • 기업 고객이 StarCoder 모델을 자체 코드를 사용해 파인 튜닝할 수 있어, 도메인 지식이 필요한 내부 작업에 도움이 됨.
  • Mathpresso
    • Mathpresso는 한국의 에듀테크 기업으로, 대표적인 앱 QANDA를 통해 학생들이 수학 문제의 스크린샷을 업로드하면 자동으로 해답을 제공함.
    • 2023년, Meta의 Llama 2 모델을 사용해 MathGPT라는 수학 특화 LLM을 개발함.
    • MathGPT는 학습 데이터로 QANDA의 수학 솔루션을 사용했으며, 기존 상용 모델보다 높은 사용자화와 교육 환경에 맞춘 정확도를 제공함.
    • MathGPT는 MATH 및 GSM8K 벤치마크에서 Microsoft Tora를 능가하며, 13B 파라미터 이하 모델 중 1위를 차지함.
  • Brave
    • Brave는 개인정보 보호를 우선으로 하는 웹 브라우저로, 광고 차단, 트래커 차단 등의 기능을 제공함.
    • 2023년 8월, Leo라는 AI 어시스턴트를 출시하며, Meta의 Llama 2와 Mistral의 Mixtral 8x7B 오픈 소스 모델을 사용함.
    • Brave는 사용자 데이터를 저장하지 않으며, 사용자 프라이버시 보호를 위해 자체 호스팅 모델을 사용함.
    • Anthropic의 Claude 모델도 지원하지만, 기본 설정은 오픈 소스 모델로 되어 있음.
  • Replit
    • Replit은 사용자 정의 코드 완성 모델 외에도, 2024년 4월에는 Hugging Face의 7B 파라미터 모델을 파인 튜닝해 Code Repair AI 에이전트를 출시함.
    • 유료 사용자는 Replit의 오픈 소스 모델과 다른 닫힌 소스 모델 간 전환이 가능해, 다양한 고객 요구에 맞춤 솔루션을 제공함.

레이어 4: 사전 구축된 AI 도구 사용

  • 기업들이 자체적으로 AI 모델을 구축하지 않고, 완성된 생성형 AI 도구를 구매해 사용하는 경우임.
  • 외부 도구의 주요 장점은 비용 절감임. 모델을 훈련하거나 파인 튜닝하는 것보다 특정 도구를 구매하는 것이 더 저렴함.
  • 회사들이 외부 AI 도구를 선택하는 세 가지 주요 이유:
    • 일반적인 지식 연구 및 브레인스토밍 도구가 필요한 경우
      - 예: BCG의 연구에 따르면, 생성형 AI 도구는 작업 생산성을 높이고, 특히 기술 전문 지식이 부족한 경우 도움이 됨.
    • 일반적인 비즈니스 도구 (예: 고객 지원 챗봇)가 필요한 경우
      - 자체 모델 구축보다 제3자 도구를 사용해 빠르게 혜택을 얻는 것이 비용 효율적임.
    • 특정한 산업 맞춤형 도구가 이미 개발된 경우
      - 예: 법률 계약 검토 도구인 Kira는 많은 법률 회사에서 활용되고 있음.
  • Boston Consulting Group (BCG)
    • BCG는 전 세계 32K명의 직원과 $12.3B의 수익을 올리는 글로벌 컨설팅 회사임.
    • 2023년, BCG는 OpenAI의 ChatGPT를 사용해 내부 실험을 진행했으며, 생성형 AI가 창의적인 작업에서 40% 성과 개선을 보였음.
    • 예: 새로운 신발 제품 아이디어 생성, 마케팅 슬로건 작성 등의 창의적 문제 해결에서 성과 향상.
    • 2024년, BCG는 ChatGPT Enterprise를 모든 직원에게 도입하며, AI 도구의 높은 유용성을 인정함.
  • Dollar Shave Club
    • Dollar Shave Club은 Unilever에 $1B에 인수된 면도용품 공급업체로, 이후 Nexus Capital Management에 매각됨.
    • 자체 챗봇 대신 Zendesk의 Answer Bot을 사용해 고객 지원을 자동화함.
      • Answer Bot은 12M 건의 고객 상호작용 데이터를 학습해, 간단한 고객 질문에 몇 초 만에 답변함.
    • 매달 4.5K 건의 티켓을 해결하며, 회사의 전체 티켓 볼륨의 10%를 차지함.
  • Law Firms (법률 회사)
    • 법률 계약 검토는 복잡한 용어와 조항들로 가득 차 있음.
    • 많은 법률 회사들은 내부 AI 도구를 개발할 리소스가 부족해, Kira와 같은 외부 AI 도구를 활용함.
      • 예: Skadden, Hogan Lovells, Paul, Weiss 등의 대형 법률 회사들이 Kira를 사용해 계약 검토 시간을 최대 60% 단축함.
    • Kira는 1K개 이상의 일반적인 조항 및 데이터 포인트를 신속하게 분석할 수 있어, M&A 실사, 대출 계약 검토 등에 사용됨.

Long Tail 기업들이 AI를 활용하는 세 가지 방식

  • Long Tail에 속하는 기업들은 Bloomberg가 금융 전문가를 위한 맞춤형 도구를 개발하고, BCG 컨설턴트들이 ChatGPT를 생산성 도구로 활용하는 등 다양한 방식으로 생성형 AI를 적용하고 있음
  • 이러한 도구를 구동하는 모델은 Canva의 이미지 생성 모델부터 Ramp의 GPT 통합 모델까지 다양함.
  • AI를 적용하는 기업들의 패턴을 살펴보면, 현재 기술 발전 속도에도 불구하고 다음 세 가지 주요 트렌드가 두드러짐.
    • AI를 기존 비즈니스를 보완하는 도구로 사용
      • 대부분의 Long Tail 기업들은 이미 잘 확립된 제품과 서비스를 제공하고 있으며, AI는 이를 보완하고 개선하는 역할을 함.
        • 예: Replit은 AI 도구를 출시하기 전에 이미 성공을 거두었고, AI는 기존 개발자 도구의 연장선에서 제품 개선에 사용됨.
        • Brave의 Leo AI는 브라우저의 프라이버시 우선 정책을 확장한 생성형 AI 도구임. Brave는 8년간 프라이버시 보호를 위해 노력해 왔으며, Leo는 이 원칙을 이어가는 도구임.
        • Walmart는 저렴한 가격과 유연한 반품 정책이 핵심이며, AI는 이를 보조하는 역할을 할 뿐, 핵심 전략을 대체하지 않음.
      • 결론적으로, 기업들은 프로세스 효율성을 높이기 위해 AI를 내부적으로 도입하지만, 핵심 사용자 경험이 우선됨.
    • 동종 업계의 AI 전략을 복제
      • 기업들은 성공적인 AI 전략을 빠르게 채택하여 경쟁력을 유지함.
        • 예: BCG는 ChatGPT를 활용해 창의적 작업 및 코딩 작업의 성과를 크게 향상시켰음. 이러한 결과는 다른 컨설팅 회사인 McKinsey와 Bain이 유사한 AI 도구를 채택하도록 압박할 가능성이 있음.
        • Brave와 VMware는 서로 다른 핵심 제품을 제공하지만, 둘 다 데이터 프라이버시를 중시하며, 이를 위해 오픈소스 모델을 선택함.
      • 만약 선도 기업들이 AI 도입으로 지속적인 경쟁 우위를 확보한다면, 다른 기업들도 유사한 AI 전략을 채택해야 할 것으로 예상됨.
    • 유연한 AI 전략 유지
      • AI 활용 방식은 고정되지 않으며, 기업들은 다양한 전략을 적용하거나 수정 할 수 있음.
      • 예: OpenAI는 초기에는 점점 더 큰 모델을 구축했지만, 2024년에는 GPT-4o mini와 같은 작고 효율적인 모델을 출시함. 이는 비용 절감과 빠른 추론 속도를 제공함.
      • Ramp의 CTO는 GPT-4o mini가 90%의 요구 사항을 충족한다고 언급하며, 큰 모델보다 작은 모델이 더 효율적일 수 있다고 평가함.
        • Baseten의 CEO Tuhin Srivastava는 기업들이 자체 모델을 구축하려는 경향이 있지만, 이를 위해 과도한 자원과 시간이 소모될 수 있다고 지적함.
        • Srivastava의 조언: "먼저 확실한 도구를 사용하고, 점진적으로 자체 모델로 대체" 하는 전략이 중요함.
        • 기업들은 새로운 AI 기술이 출시될 때 유연하게 대응할 수 있는 위치에 있어야, 빠르게 개선된 기술을 활용할 수 있음.

Long Tail 기업들의 최종 목표

  • 현재 AI에 대한 관심과 열기는 모델 및 AI 네이티브 기업에 집중되어 있지만, 비 AI 네이티브 기업들 사이에서도 AI 활용 사례가 점점 더 두드러지고 있음
    • 이들 기업은 고객 서비스 챗봇부터 증강 현실 쇼핑 경험까지 다양한 AI 솔루션을 도입하고 있음.
      • AI 혁신의 속도를 감안할 때, Long Tail 기업들이 AI를 어떻게 사용하는지를 이해하는 가장 쉬운 방법은 이 딥다이브에서 제시한 네 가지 레이어로 분류하는 것임:
        • 커스텀 모델, 닫힌 소스 모델, 오픈 소스 모델, 서드파티 AI 도구
  • 이 딥다이브에서 다룬 다양한 예시는 기업들이 서로 다른 AI 도구를 구축하고 채택한 방식을 보여주어, 독자들이 자신의 조직에서 AI 통합을 어떻게 접근해야 할지를 이해하는 데 도움을 줌.
    • 네 가지 레이어는 각각 학습 시간, 비용, 커스터마이제이션, 프라이버시, 품질과 관련된 트레이드오프를 제시하지만, 모델 간의 전환 비용이 낮기 때문에 고객들은 다양한 솔루션을 실험할 유연성을 가질 수 있음.
  • Long Tail 기업들의 최종 목표는 AI 기업이 되는 것이 아니라, AI 도구를 활용해 핵심 비즈니스를 보완하고 가속화하는 것임.