슬롯사이트 추천 스타트업 애니스피어(Anysphere)는 슬롯사이트 추천 코딩 어시스턴트 서비스 ‘커서(Cursor)’의 인기에 힘입어 가파른 성장을 이어왔다. 오픈슬롯사이트 추천의 인수 검토 대상에 오르고, 기업가치 100억달러에 달하는 투자 논의까지 오갔다. 커서는 2023년 출시 이후 연간 매출 1억달 러를 돌파하기도 했다.

이렇게 승승장구하던 애니스피어와 커서는 최근 완전히 다른 이유로 입방아에 올랐다. 고객 지원을 담당하던 슬롯사이트 추천가 돌발적으로 ‘오작동(hallucination)’하며 대규모 해지 사태를 촉발했기 때문이다. 이는 슬롯사이트 추천 자동화를 추진하는 기업에 대한 경고 사례로 회자되기 시작했다.

사건의 시작은 한 사용자가 헤커뉴스와 레딧에 올린 글이었다. 그는 커서 이용 중 기기를 바꿀 때마다 강제 로그아웃되는 현상을 겪고, 고객지원 담당자 'Sam'에게 이메일로 문의했다. 돌아온 답변은 “새로운 로그인 정책에 따른 정상 동작”이라는 안내였다.

문제는 그런 로그인 정책은 존재하지 않았고, 'Sam'은 실제 사람이 아닌 슬롯사이트 추천 고객지원 챗봇이었다. 결국 슬롯사이트 추천가 허구의 정책을 꾸며낸 것이었다.

이 사건은 개발자 커뮤니티를 중심으로 빠르게 퍼졌고, 일부 사용자는 커서 구독을 취소했다. 투명하지 못한 고객 대응에 대한 비판도 이어졌다. 공동창업자 마이클 트루엘은 뒤늦게 Reddit에 “프론트라인 슬롯사이트 추천 지원 봇의 오류”를 인정하며 “로그아웃 현상은 현재 조사 중”이라고 해명했다. 그는 “혼란을 드려 죄송하다”고 적었지만, 이미 대응이 늦었다는 지적을 피하기 어려웠다.

이 사건은 업계 전반에 슬롯사이트 추천 챗봇의 위험성과 한계를 일깨우는 사례로 번지고 있다. 구글 전 수석 의사결정 과학자이자 슬롯사이트 추천 자문가인 캐시 코지르코프는 “커서는 고객지원 담당자 Sam이 사실은 ‘헛소리하는 슬롯사이트 추천’라는 사실을 밝히지 않아 스스로 위기를 자초했다”며 “’슬롯사이트 추천는 실수한다’ ‘슬롯사이트 추천는 책임을 지지 못한다’ ‘사용자는 인간인 줄 알았다가 기계에게 속았다고 느끼는 것을 싫어한다’는 점을 간과했다”고 꼬집었다.

클라우드 보안 플랫폼 데이터독의 엔지니어링 매니저 상케스 발라크리슈나는 “고객지원은 단순한 정보 전달이 아니라 공감과 맥락 이해가 중요한데, 이는 현재 슬롯사이트 추천가 가장 취약한 부분”이라며, 지원 전부를 슬롯사이트 추천에 맡기는 것은 위험할 수 있다고 경고했다.

보안업체 업윈드의 CEO 아미란 샤차르는 유사 사례로 에어캐나다, 클라르나(Klarna)의 사례를 언급했다. 에어캐나다는 환불 정책을 날조한 슬롯사이트 추천 챗봇이 논란이 되었고, 클라르나는 슬롯사이트 추천가 인간 상담원을 전면 대체한 이후 불만이 속출하자 정책을 철회했다. 그는 “슬롯사이트 추천는 고객이나 업무 흐름을 이해하지 못한다”며, “제약을 두지 않으면, 자신감 있게 틀린 정보를 내놓는다”고 말했다.

커서의 기술 고객층은 특히 정확성과 신뢰성이 중요한 그룹이다. 건강보험 슬롯사이트 추천 스타트업 파이트헬스인슈어런스(Fight Health Insurance)의 공동창업자 멜라니 워릭은 커서의 개발자 지원은 유용했지만, 최근 경험은 실망스러웠다고 전했다. 그녀는 “계속되는 오류 메시지를 해결해 달라고 요청했지만, 똑같은 슬롯사이트 추천 답변만 반복됐다”며 “상담 자체가 무의미해져 결국 사용을 중단했다”고 밝혔다.

지금까지는 슬롯사이트 추천 챗봇의 오류가 중심이었지만, 전문가들은 향후 자율적 슬롯사이트 추천 에이전트(Agentic 슬롯사이트 추천)가 보편화되면 그 영향력은 훨씬 클 것이라고 경고한다. 특히 금융, 의료, 법률처럼 오차 허용이 어려운 고위험 산업에서는 더 치명적일 수 있다.

슬롯사이트 추천 환각 리스크를 줄이는 기술을 개발하는 벡타라(Vectara)의 CEO 암르 아와달라는 “이 사건은 자율 슬롯사이트 추천가 주류로 확산되기 전 반드시 해결돼야 할 핵심 과제”라며 “기업들이 자율 슬롯사이트 추천를 선호하는 이유는 인건비 절감이지만, 작은 환각이 치명적인 결과를 낳을 수 있다는 점에서 도입을 망설이게 만든다”고 지적했다.

/ 글 Sharon Goldman & 편집 김다린 기자 quill@fortunekorea.co.kr