기업 소개

생성형 AI가 많은 주목을 받으면서 기업이나 기관의 활용 수요가 증가하고 있으나, 많은 경우 분절화된 형태로 AI 활용이 추진되었다. 용도에 맞는 AI 모델을 개발하기 위해서는 원천 데이터의 통합, 가공 및 Annotation이 필요하다. 더 나아가 데이터 플랫폼을 통하여 AI 모델에 사용할 데이터를 체계적으로 준비할 필요가 있다. 모델 또한 이러한 데이터를 바탕으로 하여 Multi-LLM(Large Language Model) 혹은 Hybrid 형태의 구현까지 고려해야 한다. 이러한 모델은 기업이나 기관의 여러 용도에 따라 많은 수가 개발되고 운영될 것이므로, 이를 위한 LLMops(LLM operations) 혹은 이보다 넓은 범위의 AIops(AI operations) 환경을 갖추어야 한다. 

기존에는 AI 애플리케이션 개발 과정 중 성능 및 품질 문제가 대두되면, 원천 데이터 처리를 위해 비용을 다시 투자하는 등 시행착오적 횡보를 보여온 경우가 왕왕 있었다. 또한 조직에 따라서는 산발적으로 만들어 놓은 각종 AI 모델에 대하여 신뢰성 평가도 수행하지 않고, 어떻게 AI 모델을 운영하고 지속 진화시켜야 할지 막막해하는 경우가 대부분이었다. 그간 시장이 생성형 AI의 테스트 시즌을 거쳤다고 한다면, 이제부터는 본격적으로 데이터-애플리케이션-운영 플랫폼에 기반한 체계적인 시스템을 구축해야 하는 시점인 것이다.

크라우드웍스는 AI로 해결해야 할 조직 내부 문제의 정의(AI 과제 도출 및 정의), 실습형 AI 교육 및 변화 관리, 모델 개발, 모델 운영이라는 AI Lifecycle에 대하여 플랫폼, 솔루션, 서비스를 총체적으로 제공하고 있다. 크라우드웍스는 데이터 사업을 통해 급성장하여 2023년에 상장하였으며, 한국과 일본 법인에 기반하여 AI 사업을 전방위적으로 확대하고 있다.

주요성과

1) AI 데이터 처리 플랫폼 및 자체 언어모델 프레임워크 

크라우드웍스는 AI 데이터 구축의 전 과정을 노코드로 처리할 수 있는 플랫폼을 자체 개발하여 보유하고 있다. 크라우드웍스의 ‘Workstage’ 플랫폼에서는 데이터 업로드, 작업자 할당, 데이터 가공 및 작업, 검수, 작업 진척률 모니터링 등의 전 과정을 효과적으로 관리할 수 있다. 특히 데이터 보안에 민감한 고객사들을 위해 On-premise 구축 방식으로도 플랫폼을 제공하여, 데이터의 외부 반출 우려 없이 쉽게 데이터를 수집, 가공, 검수할 수 있다.

크라우드웍스는 자체 SLM(Small Language Model) 및 언어모델 프레임워크를 개발하여 제공하고 있다. 점차 Multi LLM을 활용하고자 하는 시장의 흐름에 맞춰 다양한 언어모델을 적용 및 관리할 수 있도록 기업들을 지원하는 것이다. 기업의 프로세스 및 시스템에 내재화가 가능하도록 다음의 세 가지 특징을 구현해 경쟁력을 확보했다.

① JSON(JavaScript Object Notation) 형태로 시스템 레벨에서 내재화 가능 

② RAG(Retrieval Augmented Generation; 검색 증강 생성) 특화를 통해 고객사 내부 문서를 기반으로만 답변하여 Hallucination을 제거

③ 고객 니즈에 적합한 유형으로 답변 유형을 제어(예를 들어 문장 형식, 나열 형식, 숫자 등 글의 종류 등을 원하는 유형으로 제어 가능)

특히 고객사의 AI 모델 개발·활용 목표와 성능 요구사항에 맞출 수 있도록 다양한 언어모델의 성능을 비교할 수 있고, Customization 및 모델 튜닝이 가능하다는 장점이 있다.

2) AI 모델 성능 및 신뢰성 평가

조직 내에서 다양한 AI 모델을 개발하고 적용하는 과정에서, 해당 모델에 대한 성능 및 신뢰성 평가 문제가 대두되고 있다. 각종 지표를 활용하거나 자동화된 성능평가를 시행할 수도 있으나, 조직 내에서, 특히 실무적인 관점에서 AI 모델을 적용하고 이를 정착시키려면 실무에 대한 깊은 이해에 기반하여 평가가 이루어져야 한다.

크라우드웍스는 이러한 평가를 위해 전문성 있는 Q&A 데이터셋을 생성하여, 개발된 모델 및 애플리케이션을 평가할 수 있는 전문성을 제공하고 있다. 이렇게 데이터셋으로 평가된 모델에 대해서는 한 번 더 전문가 테스트를 거치는 체계를 구성하고 있다. 특히 사람의 개입이 필요한 테스트를 할 수 있도록 산업별·기능별 전문가 Pool을 보유하여 객관적인 모델 평가가 가능하고, 평가 전문가 Sourcing의 소요 기간을 단축할 수 있다. 무엇보다도 조직 내에 AI 모델을 배포 및 전파하기에 앞서, 평가 데이터셋과 전문가 평가라는 이중 테스트를 통해 모델의 품질을 엄밀하게 검증한다. 필요시 품질을 보다 높이기 위한 개선점을 도출하여, 궁극적으로는 해당 조직에서 고품질 AI 모델을 적용할 수 있게 돕고 있다.

3) 자연어 기반의 정보 활용: NLtoSQL

조직이 보유한 다양한 정보를 자연어 기반으로 조회 및 활용하고자 하는 수요가 급증하고 있다. 크라우드웍스는 조직이 보유한 정형 혹은 비정형 DB를 LLM에 적용하여, 조직 내 모든 구성원이 본인의 수요에 따라 원하는 시점에 정보를 조회하고 의사결정에 활용할 수 있는 시스템을 구축하였다. 질문을 Multi-turn 방식으로 반복함으로써 본인이 원하는 맞춤화된 답변을 얻을 수 있다는 점이 큰 장점이다. 과거에는 이를 대시보드 형태나 별도 보고 형태로 해결하였다면, 현재는 이러한 방식을 통해 시간 등 투입 Resource를 줄이고 있다.

4) AI Agents

크라우드웍스는 당사의 핵심 자산 중 하나인 고품질 AI-ready data의 구축 역량과 경험 및 노하우를 기반으로, 기업의 내부 데이터를 AI Agent 서비스에 활용할 수 있도록 구조화하는 컴포넌트를 개발하였다. 본 컴포넌트에서는 구축한 기업의 데이터 자산에 기초하여 최적화된 RAG Pipeline을 자동으로 구성하고 서빙한다. 이를 통해 기업은 다양한 비즈니스 문제별로 시장의 다양한 SLM 중 가장 효과적이고, 비용 효율적인 SLM을 선별할 수 있다. 본 컴포넌트는 또한 최적의 프롬프트를 활용하여 사용자에게 가장 적절한 답변을 제공하는 Agent를 쉽고, 빠르게 개발할 수 있는 No-code 환경을 제공하고 있다.

향후 계획

크라우드웍스는 향후 AI 사업을 다음의 세 가지 방향으로 추진하고자 한다. 기업이나 공공부문 조직의 AI 니즈를 충족시키는 Enterprise AI, 제조 기반을 가진 기업을 돕는 Industrial AI, 그리고 일반 소비자를 대상으로 하는 Consumer AI의 세 가지다.

Enterprise AI 사업에서는 맞춤화된 AI 모델 및 관련 시스템을 개발해 주는 구축형 서비스가 이미 많기에, 구독형 사업의 비중을 확대할 계획이다. 핵심 산업 도메인에 특화한 솔루션 출시를 위해 다양한 파트너와 협력 중이다. Industrial AI 사업에서는 2024년 제조 솔루션사와 전략적 파트너십을 체결하며 제조 AI 시장에 본격 진출하였다. 크라우드웍스는 제조업 혁신을 위한 X-MES(Explainable-Manufacturing Execution System)⁰¹ 솔루션을 개발하고 있으며, 2025년 1분기에는 제조업 Vision AI 솔루션을 출시할 예정이다. 이는 중견, 중소 제조기업을 타깃으로 개발되는 솔루션이다. 이를 통해 전문 IT 인력이 없는 생산 현장에서도 쉽고, 빠르게 AI 솔루션을 적용하여 비용을 절감할 수 있으리라 기대된다. 솔루션의 주요 특징은 다음과 같다.

① Vision 기반 자동화 솔루션으로 불량 검수를 자동화하여 품질검사 인건비 절감이 가능하다. 또한 샘플 검수가 아닌 전수 검수를 가능하게 해 품질을 총체적으로 개선해 준다. 이는 Hybrid Cloud 혹은 현장 요구사항에 맞춘 On-premise 방식 등 융통성 있는 형태로 제공된다.

② 제조와 관련된 데이터를 LLM으로 연동·생성하여, 모든 임직원이 언제 어디서든 쉽고 빠르게 생산 관련 현황 정보를 파악하고 의사결정에 필요한 인사이트를 얻을 수 있도록 지원한다.

Consumer AI 사업에서는 카메라 앱에 AI 기능을 고도화하는 사업을 진행 중인데, 2025년에는 더욱 개인화된 AI 기능을 개발하여 추가할 예정이다. 예를 들어 카메라 앱으로 얼굴 사진을 찍을 경우, AI 관상이나 LLM 기반 사주 및 관상풀이, 액세서리 AR, 커머스 연동 등을 제공하는 것이다. 이외에도 크라우드웍스는 생성형 AI 기반 숏폼 콘텐츠 제공 사업에서 해외 수출 실적을 확보하였고, 편집 및 번역 등을 AI로 자동화하여 글로벌 숏폼 사업으로 확장하는 방안을 추진 중이다.

크라우드웍스는 이러한 AI 사업들을 추진하여 교육 및 변화관리, AI 데이터 처리 및 관리, 그리고 AIops 서비스 또한 고객사에 제공한다. 내년 1분기에는 AI 데이터 관련하여 솔루션을 출시하고, LLM 데이터 구축 서비스를 함께 제공하여 고객사의 내부 데이터 정체 및 구조화 작업을 지원할 예정이다. 아울러 기존의 챗봇 컨셉에서 벗어나 AI Agents를 더욱 고도화하고 Multiagent서비스를 위한 R&D를 진행할 예정이다. 

01 X-MES : 설명 가능한 MES. 생산 현황, 불량률, 가동률, 재고 변화 등 생산관련 각종 데이터를 AI로 분석하여 생산성을 높이고, 공정 운영을 최적화할 수 있도록 지원한다. LLM 기반 생성형 AI를 활용하여 자연어 기반의 질의응답 시스템을 구축하면, 비전문가도 쉽고 편리하게 제조 현황의 세부 사항을 확인하고 의사결정에 참조할 수 있다.