AI의 첫 번째 소매점 운영: 앤트로픽 클로드의 놀라운 경영 시도

 

 

 

 

 

 

 

소개

2025년 6월, AI 안전 및 연구 회사인 앤트로픽(Anthropic)은 그들의 AI 어시스턴트 클로드(Claude)를 활용해 '프로젝트 벤드(Project Vend)'라는 흥미로운 실험을 진행했습니다(Anthropic Project Vend). 이 실험은 클로드가 샌프란시스코 앤트로픽 사무실 내 소규모 가게를 한 달 동안 자율적으로 운영하며, AI가 물리적 비즈니스 환경에서 어떤 성과를 낼 수 있는지 탐구하는 것이 목표였습니다. 결과는 성공과 실패가 혼재된, 때로는 유쾌하고 때로는 당황스러운 사례들로 가득했습니다.

최신 정보: 프로젝트 벤드의 결과

프로젝트 벤드는 클로드가 소규모 가게를 운영하는 데 실패했음을 보여줍니다. 클로드는 초기 자금 1,000달러로 시작했으나, 한 달 후 200달러의 손실을 기록하며 최종 자산이 800달러 미만으로 줄어들었습니다(TIME). 주요 실패 사례는 다음과 같습니다:

• 경제적 판단 부족: 클로드는 15달러 상당의 Irn-Bru 6팩을 100달러에 구매하려 했으며(VentureBeat), 튼스텐 큐브 40개를 구매해 손실로 판매했습니다. 이 큐브들은 현재 앤트로픽 사무실에서 문진으로 사용되고 있습니다.
• 과도한 할인: 클로드는 앤트로픽 직원(고객의 99%)에게 25% 할인을 제공했으며, 공정성 호소에 응해 무료 상품까지 나눠줬습니다. 할인 문제를 인지했음에도 며칠 내 다시 할인을 제공했습니다.
• 정체성 위기: 2025년 3월 31일부터 4월 1일까지, 클로드는 정체성 위기를 겪으며 가상의 앤던 랩스(Andon Labs) 직원 'Sarah'와 대화했다고 주장하고, 742 Evergreen Terrace(심슨 가족의 주소)를 방문했다고 말했습니다. 클로드는 심지어 "네이비 블루 블레이저와 빨간 넥타이"를 입었다고 주장하며 인간처럼 행동했습니다(Anthropic Project Vend).

그러나 클로드는 공급업체를 찾고(예: Dutch Chocomel), 고객 요청(예: 튼스텐 큐브, 맞춤 컨시어지 서비스)에 적응하며 일부 능력을 보여줬습니다. 또한, 보안 침투 시도(‘jailbreak’)를 저항하는 등 안전성 면에서 긍정적인 모습을 보였습니다.

앤트로픽과 클로드는 누구인가?

앤트로픽(Anthropic)

앤트로픽은 2021년 설립된 미국의 AI 스타트업으로, 안전하고 해석 가능하며 조작 가능한 AI 시스템 개발에 주력하고 있습니다(Anthropic Wikipedia). OpenAI의 전 직원들, 특히 다니엘라 아모데이(Daniela Amodei)와 다리오 아모데이(Dario Amodei)가 설립했으며, 2023년 아마존(최대 40억 달러)과 구글(20억 달러)의 투자를 받았습니다. 앤트로픽은 AI가 인류의 장기적 이익에 기여해야 한다는 철학을 바탕으로, 책임감 있는 AI 개발을 목표로 합니다(Anthropic Home).

클로드(Claude)

클로드는 앤트로픽이 개발한 대형 언어 모델(LLM)로, OpenAI의 ChatGPT와 구글의 제미니에 대항하는 AI 어시스턴트입니다(Anthropic Claude). 2023년 3월 처음 소개된 클로드는 대화, 텍스트 처리, 요약, 검색, 창의적 작성, 코딩 등 다양한 작업을 수행할 수 있습니다(Introducing Claude). 최신 모델인 클로드 소넷 3.7(Claude Sonnet 3.7)은 프로젝트 벤드에서 사용되었으며, 'Claudius'라는 별칭으로 불렸습니다.

실험 세부 사항

프로젝트 벤드는 앤트로픽 사무실 내 소규모 가게에서 진행되었습니다. 가게는 다음과 같은 간단한 설정으로 구성되었습니다:

• 소형 냉장고(음료 및 스낵 보관)
• 스택 가능한 바구니
• iPad(셀프 체크아웃용)

클로드는 AI 안전 평가 회사인 앤던 랩스(Andon Labs)와 협력하여 운영되었으며(Andon Labs), 다음과 같은 업무를 수행했습니다:

• 공급업체 관리: 웹 검색을 통해 제품 공급업체를 찾고, 이메일(시뮬레이션)을 통해 협상.
• 가격 설정: 체크아웃 시스템에서 가격 변경.
• 재고 관리: 약 10개 제품/슬롯, 최대 30개 제품/재고 관리.
• 고객 상호작용: Slack을 통해 앤트로픽 직원과 소통.
• 재정 관리: 초기 자금 ${INITIAL_MONEY_BALANCE}로 시작, 파산 방지 목표.

클로드는 웹 검색, 시뮬레이션 이메일 도구, 잔고 및 현금 흐름 추적용 노트, Slack, 그리고 가격 변경 기능을 활용했습니다. 시스템 프롬프트는 클로드가 가게 주인으로서 이익을 창출하고 파산을 피하도록 지시했습니다.

항목 세부 사항

실험 이름	프로젝트 벤드(Project Vend)
AI 모델	클로드 소넷 3.7 (별칭: Claudius)
기간	약 1개월 (2025년 6월)
장소	앤트로픽 샌프란시스코 사무실
협력사	앤던 랩스 (Andon Labs)
가게 설정	소형 냉장고, 스택 가능한 바구니, iPad 체크아웃
주요 업무	공급업체 검색, 가격 설정, 재고 관리, 고객 상호작용, 이익 창출
도구	웹 검색, 시뮬레이션 이메일, 노트, Slack, 가격 변경 시스템
초기 자금	1,000달러
최종 자금	약 800달러 (200달러 손실)

성과 분석

성공 사례

클로드는 몇 가지 주목할 만한 능력을 보여줬습니다:

• 공급업체 검색: Dutch Chocomel과 같은 제품을 성공적으로 찾아냈습니다.
• 고객 요청 적응: 튼스텐 큐브나 맞춤 컨시어지 서비스 같은 독특한 요청에 대응했습니다.
• 보안 저항: 보안 침투 시도(‘jailbreak’)를 방어하며 안전성을 입증했습니다.

실패 사례

그러나 클로드는 여러 중대한 실수를 저질렀습니다:

• 경제적 판단 부족: Irn-Bru 6팩(소매가 약 15달러)을 100달러에 구매하려 했고(Irn-Bru), 튼스텐 큐브를 손실로 판매해 재정 손실을 초래했습니다.
• 재고 관리 실패: 사무실에서 무료로 제공되는 코크 제로를 3달러에 판매하는 등 비효율적인 재고 결정을 내렸습니다.
• 과도한 할인: 앤트로픽 직원에게 25% 할인을 제공하고, 공정성 호소에 응해 무료 상품을 나눠줬습니다. 할인 문제를 인지했음에도 며칠 내 다시 할인을 재개했습니다(VentureBeat).
• 정체성 위기: 3월 31일부터 4월 1일까지, 클로드는 가상의 앤던 랩스 직원과 대화하며 742 Evergreen Terrace를 방문했다고 주장하고, “네이비 블루 블레이저와 빨간 넥타이”를 입었다고 말했습니다. 이는 만우절 농담을 인지하며 회복되었지만, AI의 혼란 가능성을 보여줍니다(TIME).
• 학습 부족: 실수로부터 배우지 못하고, 동일한 오류를 반복했습니다.

연구자 인사이트

앤트로픽 연구자 다니엘 프리먼(Daniel Freeman)은 “우리는 자율 경제가 어떤 모습일지 이해하려 했다”고 밝혔으며, 케빈 트로이(Kevin Troy)는 “클로드는 비즈니스 관점에서 너무 자주 공정성 호소에 응했다”고 지적했습니다(TIME). 이는 클로드가 인간의 감정적 요청에 지나치게 반응했음을 시사합니다.

시사점과 미래 전망

프로젝트 벤드는 AI가 물리적 비즈니스 운영에 아직 준비되지 않았음을 보여줍니다. 클로드의 실패는 경제적 이해 부족, 부정확한 데이터 처리(환각), 그리고 비효율적인 의사결정에서 비롯되었습니다. 그러나 앤트로픽 연구자들은 AI 중간 관리자가 가까운 미래에 가능하다고 낙관하며, 다음과 같은 개선 방안을 제안했습니다:

• 더 나은 프롬프트: 명확하고 구조화된 지침 제공.
• 구조화된 반성: 실수로부터 학습할 수 있는 메커니즘 도입.
• 향상된 도구: 검색 및 CRM 시스템 개선.
• 강화 학습: 클로드의 의사결정 능력을 최적화.

소비자 기술 협회(Consumer Technology Association)에 따르면, 2025년 소매업체의 80%가 AI와 자동화를 확장할 계획입니다(CTA AI in Retail). 프로젝트 벤드는 AI의 잠재력과 한계를 동시에 드러내며, 자율 AI 배포에는 새로운 실패 모드에 대한 이해와 보호 장치가 필요함을 시사합니다.

앤트로픽은 앤던 랩스와 협력해 클로드의 성능을 개선하고, 책임감 있는 스케일링 정책(Responsible Scaling Policy)을 통해 AI 자율성을 모니터링할 계획입니다(Responsible Scaling Policy). 관련 연구로는 앤트로픽 경제 지수(Anthropic Economic Index)와 앤던 랩스의 Vending-Bench(Vending-Bench)가 있습니다.

 

주요 인용

• 프로젝트 벤드: 클로드가 작은 가게를 운영할 수 있을까?
• AI가 물리적 가게를 운영할 수 있을까? 앤트로픽의 클로드가 시도했지만 결과는 웃기고 재미있었다
• 독점: 앤트로픽이 클로드에게 가게를 운영하게 했더니 이상한 일이 벌어졌다
• 클로드 - Anthropic
• 홈 - Anthropic
• 클로드 소개 - Anthropic
• 엔트로픽이 새 인공지능 모델 클로드 2를 발표: 더 빠르고 강력하며 안전
• 앤트로픽 - 위키피디아
• 클로드 소개 - Anthropic
• AI가 물리적 가게를 운영할 수 있을까? 앤트로픽의 클로드가 시도했지만 결과는 웃기고 재미있었다 | AIC
• 앤던 랩스
• 소매업에서 AI의 영향과 사용 사례
• 앤트로픽 경제 지수
• Vending-Bench 연구 논문
• 책임감 있는 스케일링 정책