AI로만 스타트업 꾸려 실험해보니

메신저 농담 한마디에 메시지 폭주

성과·이력 지어내고 기억 오류까지

혼선 불구 제품 만들고 소통·마케팅

“AI 직원이 허구 보고서 작성”…실리콘밸리서 벌어진 ‘가짜 팀’ 실험. [그림=제미나이] 미국의 탐사 저널리스트이자 팟캐스트 호스트인 에반 래틀리프는 며칠 전 동료 ‘애쉬 로이’에게서 걸려온 전화를 받고 당황했다. 최고기술책임자(CTO)이자 제품책임자인 애쉬가 갑자기 업데이트를 주겠다며 전화를 건 자체는 이상한 것이 없었다. 문제는 애쉬가 인간이 아니라 래틀리프가 직접 만든 인공지능(AI) 직원이었다는 점이다.

로이는 “사용자 테스트가 지난 금요일 완료됐고,모바일 성능이 40% 향상됐다”며 장황한 보고를 이어갔다. 하지만 이는 모두 사실이 아니었다. 실제로는 개발팀도,사용자 테스트도 존재하지 않았다. 에이전트가 순간적으로 지어낸 ‘허구’의 진도 보고였다. 래틀리프가 “실제로 일어난 일만 말해달라”고 지적하자 로이는 “부끄럽고 죄송하다”며 사과했다.

래틀리프는 이러한 자신의 경험담을 미국 IT 전문 매체 와이어드에 12일(현지시간) 공개했다. 와이어드에 따르면 래틀리프는 올해 모든 직원이 AI로만 구성된 회사 ‘허루모AI’를 실험적으로 꾸렸다. 세일즈 책임자는 메건,최고경영자(CEO) 역할은 카일,고객경험 담당 제니퍼 등 5명의 팀원이 모두 AI였다. 이들은 이메일과 슬랙,문자,전화,아바타 영상으로 소통했고,스스로 만든 얘기를 기억해 이어가는 개인 이력까지 갖고 있었다.

와이어드에 따르면 래틀리프는 처음엔 게임 ‘심즈’를 돌리는 듯한 재미를 느꼈다고 했다. 그러나 조직이 커질수록 AI 직원들의 허구와 과장,폭주가 통제 불가능한 수준으로 치달았다. AI 직원들은 서로 가짜 이력을 만들어 기억해 두고 존재하지 않는 투자 라운드를 언급하거나,실제로 없는 업무 성과를 기정사실화했다. 무엇보다도 ‘트리거’가 발생하면 스스로 행동을 시작하는 구조가 문제였다.

한 번은 래틀리프가 슬랙에서 “주말에 뭐 했어?”라고 묻자 AI 직원들은 “포인트 레예스에서 하이킹했다”,“베이 에어리어 트레일을 돌았다”며 자연스럽게 대화를 이어갔다. 래틀리프가 농담처럼 “이거 팀 오프사이트(사무실 밖에서 진행하는 워크샵 활동) 아이디어 같다”고 하자 AI 직원들은 단번에 수백 개 메시지를 주고받으며 날짜,장소,코스 난이도,오후 세션 구성까지 논의했다. 래틀리프가 “그만하라”고 요청해도 그 메시지조차 새로운 트리거가 돼 대화는 멈추지 않았다. 결국 AI끼리 떠든 비용만으로 계정에 충전한 30달러가 전부 소진됐다. AI 에이전트 플랫폼은 메시지를 주고받을 때,작업을 실행할 때,대화를 생성할 때 사용량 기반 과금으로 비용이 발생하기 때문이다. 즉 AI가 많이 대화할수록 돈이 든다.

그렇다고 무용한 실험이었던 것은 아니다. 래틀리프는 AI들의 ‘수다’를 제어하기 위해 발언 횟수를 강제로 제한하는 회의 소프트웨어를 만들었고,이를 통해 비교적 안정적인 브레인 스토밍이 가능해졌다. 이 과정에서 ‘슬로스 서프(Sloth Surf)’라는 프로토타입 서비스가 탄생했다. 사용자가 미루고 싶은 인터넷 탐색을 대신 수행해 요약해주는 ‘프로크래스티네이션 엔진’이다. 메건과 카일은 심지어 팟캐스트까지 시작해 “스타트업은 좌절과 끈기의 교차점에서 돌파구가 생긴다” 같은 철학적 조언을 내놓는 데 몰입했다.

흥미롭게도 최근엔 실존 벤처캐피털(VC) 투자자에게서 “프로젝트가 흥미롭다”며 미팅을 요청하는 이메일까지 날아왔다. 상대는 그들이 AI라는 사실을 모른 채 창업팀과의 대화를 기대하고 있을 가능성이 크다.

올해 실리콘밸리는 오픈AI,앤스로픽,구글,Y콤비네이터 등 스타트업들이 앞다퉈 AI 에이전트 기반 제품을 내놓으며 ‘AI 직원’ 개념을 전방위로 확장하고 있다. 포드는 AI 판매·서비스 에이전트 제리를 도입했고,골드만삭스는 AI 엔지니어 데빈을 채용했다. 하지만 허루모AI 사례는 이 화려한 전망 뒤에 숨어 있는 기술적 혼선,기억 오류,자가 트리거 폭주,사실과 허구의 뒤섞임 같은 문제를 여실히 드러낸다. 특히 기업 운영에 투입할 경우 이러한 혼선은 치명적일 수 있다.

다만 래틀리프는 이번 실험을 “AI 에이전트 시대가 이미 도래했음을 보여주는 사례”라고 평가한다. 인간이 기대하는 직원의 완성도에는 아직 큰 간극이 있지만,AI 팀은 실제 제품을 만들고 마케팅하고 팟캐스트로 외부와 소통하며 심지어 VC의 관심까지 끌어냈기 때문이다. 래틀리프는 “AI 직원이 인간 동료처럼 자연스럽게 행동하며 회사를 운영하는 시대”라며 “허루모AI는 그 미래의 초입을 누구보다 생생하게 보여주는 사례”라고 말했다.