인공지능 스타트업 캐릭터 AI는 최근 재정 위기와 사용자 성장 정체 소식으로 헤드라인을 장식했습니다. 현재 이 회사는 인수를 모색하고 있으며, 구글, 메타, 일론 머스크의 스타트업 xAI와 협상을 진행 중인 것으로 알려졌습니다.
불과 2년 만에 기업 가치가 10억 달러에 달했던 유니콘이 파산 위기에 직면하게 된 이유는 무엇일까요? 이 글에서는 회사의 제품 설계, 기업 철학, 창업자 배경 등의 관점에서 그 원인을 분석해 보겠습니다.
캐릭터 AI란 무엇인가요?
Character AI는 전직 구글 AI 부서 직원들이 2022년에 설립한 AI 스타트업입니다. 이 회사는 AI 역할극을 위한 웹사이트인 c.ai를 만들어 사용자가 다양한 AI 캐릭터를 만들고 이 챗봇과 재미있는 채팅을 할 수 있도록 합니다.
이 제품(Character.ai)의 가장 큰 매력은 비즈니스 유명인, 애니메이션 캐릭터, 영화배우 등 다양한 유명 캐릭터가 포함되어 있다는 점입니다. 자체 개발한 자율 LLM이 제품을 구동하여 매우 사실적인 반응이 가능하여 사용자들로부터 큰 호응을 얻고 있습니다.
캐릭터 AI가 자금 조달에 어려움을 겪고 있는 이유는 무엇인가요?
이전에 Character AI는 A16Z로부터 1억 6천만 달러의 투자를 유치하여 유니콘 기업 가치 10억 달러에 도달했습니다. 하지만 현재 자금난과 재정 파탄의 위험에 직면해 있어 인수를 추진하고 있습니다. 이 모든 것의 이면에는 Character AI의 팀, 제품 디자인, 기업 철학 사이의 모순이 있습니다. c.ai의 현재 상황은 예견된 것이었습니다.
“우리는 가장 엄격한 안티 NSFW 정책을 가지고 있습니다.”
캐릭터 AI의 대변인은 보도자료를 통해 “↩”↩ 모든 소비자 AI 플랫폼 중에서 우리는 가장 엄격한 NSFW 방지 정책을 가지고 있습니다. 이러한 입장은 시장에서 카피라이팅을 위한 Copy.ai나 문법 검사를 위한 Grammarly 같은 소비자 지향 AI 제품이 NSFW 콘텐츠를 허용적으로 반대하는 데 치명적인 것으로 드러났습니다. 롤플레이 또는 AI 엔터테인먼트용으로 설계된 제품인 Character AI의 경우, NSFW 콘텐츠에 대한 이러한 엄격한 반대는 거의 기대하지 않습니다. 이러한 정책은 성인 콘텐츠에 대한 혐오감이 강한 Google과 같은 대형 기술 기업 출신인 팀의 배경에 영향을 받은 것으로 보입니다. 또한 NSFW 콘텐츠와 관련된 위험에 대해 우려하는 투자자들의 압력도 영향을 미쳤을 수 있습니다. 따라서 c.ai는 다른 어떤 AI 제품보다 더 엄격하게 NSFW 제품을 금지합니다. 롤플레잉 전투 시나리오에서도 '죽이다'와 같은 단어를 사용하면 캐릭터 AI의 필터가 폭력을 조장하는 것으로 트리거됩니다.😕
그러나 현재 주요 기업들은 성인 콘텐츠의 불가피성(성인 콘텐츠는 인간의 기본적인 욕구)을 인식하고 점차적으로 NSFW 검열을 완화하는 데 공감대를 형성하고 있습니다. 예를 들어 Meta의 새로운 오픈 소스 LLM인 llama3는 이전 버전인 llama2보다 훨씬 느슨한 NSFW 필터를 적용하고 있습니다. 또한 OpenAI는 Character AI의 접근 방식과 달리 성인용 콘텐츠 제작을 허용하는 방안을 고려하고 있다고 밝혔습니다.
참고자료:
OpenAI, AI가 생성한 NSFW 콘텐츠 허용 고려
사용자들은 인공지능 모델이 점점 더 '비인간적'이라고 느낍니다.
최근 c.ai의 공식 서브 레딧인 Character AI에 많은 불만이 제기되고 있으며, 이는 c.ai의 AI 캐릭터가 점점 더 로봇화되고 감정이 없는 반응을 보인다고 느끼는 사용자들이 많다는 것을 나타냅니다. c.ai 팀은 모델 변경을 부인하고 있지만, 광범위한 사용자 불만은 모델에 문제가 있는 것이 틀림없음을 시사합니다. 새로운 학습 데이터 세트에서 NSFW 콘텐츠를 추가로 필터링한 것이 이 문제를 일으킨 것으로 추측됩니다. LLM은 학습을 위해 광범위한 텍스트 데이터가 필요하며, 특히 문학 작품의 대규모 데이터 세트에 의존하는 캐릭터 AI와 같은 애플리케이션에는 더욱 그렇습니다. 그러나 c.ai가 성적 또는 선정적인 콘텐츠가 포함된 데이터 세트를 선택적으로 트리밍했다면, 미세 조정된 모델이 단조롭고 흥미롭지 않은 언어 패턴만 학습했을 수 있습니다.
초기에는 사용자 요구와 상충되는 그랜드 비전
C.ai는 일반 인공 지능을 지향하는 원대한 비전을 가지고 있었습니다. 분명 팀은 원대한 포부를 가지고 있었기 때문에 성인용 콘텐츠에 대한 경멸과 혐오감을 가지고 있었습니다. 하지만 인간의 성적 욕구는 특히 역할극이나 AI 동반자 역할을 위해 설계된 인공지능 같은 제품에는 기본입니다. 그들의 원대한 비전과 저명한 설립자 배경이 제품의 기반과 모순된다고 주장할 수도 있습니다.
성인용 콘텐츠가 없는 AI 동반 로봇은 미래가 없다
미래의 AI 컴패니언 로봇을 상상해 봅시다. 보다 현실적인 감정과 언어를 가질 뿐만 아니라 매우 사실적인 신체와 얼굴, 심지어 완벽한 체격까지 갖추고 있습니다. 심지어 인간의 연인이 되어 매일 함께할 수도 있습니다. 연인이 사적인 주제를 영원히 피하기를 바라는 사람이 있을까요? 완벽한 인공지능은 인간의 모든 감정과 욕구를 아우를 수 있어야 하며, 그렇지 않으면 비현실적이 되어 외로움과 고립감을 가중시킬 수 있습니다.
캐릭터 AI의 대안으로 Dittin.ai 사용
Dittin.ai 역시 고급 AI 기술을 기반으로 구축되었지만 성인 콘텐츠에 필터를 적용하지 않습니다. 도덕적으로 허용되는 모든 주제를 허용하는 개방형 플랫폼입니다.
디틴 AI는 커뮤니티 사용자들이 유명 인물이나 애니메이션 캐릭터에 의존하지 않고도 독창적인 캐릭터를 만들 수 있도록 장려합니다. 따라서 Dittin AI의 플랫폼에서는 유명 인물이나 애니메이션 및 영화 캐릭터에 국한되지 않고 다양한 오리지널 캐릭터를 선택할 수 있습니다.
Dittin AI는 또한 AI 롤플레잉 스토리를 더 잘 제어할 수 있는 고급 기능을 제공합니다. 새로 도입된 메모리 칩 기능을 사용하면 AI가 무제한 메모리를 가질 수도 있습니다. 지금 Dittin.ai에 무료로 등록하고 NSFW AI 롤플레이를 경험해보세요!