10종 서비스로 구성, 생성형 AI 오케스트레이션 플랫폼과 국내외 멀티 LLM 연계
SK C&C가 일반 사무부터 인사∙재무회계∙법무∙생산관리∙R&D 등 다양한 직무 기능까지 아울러 기업 업무 전반에 걸친 생성형 AI 적용 확산에 나섰다.
SK C&C는 6일, 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다고 밝혔다.
생성형 AI 서비스 13종은 AI 챗팅∙코딩∙보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해, 인사∙재무/회계∙법무∙규제준수(Compliance)∙구매/물류∙생산관리∙연구개발(R&D)∙IT개발∙마케팅∙고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.
이들 서비스는 SK C&C가 AI 프롬프트, 사내 데이터 저장소, AI 오케스트레이터(Orchestrator)로 구성된 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융∙제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 개발됐다.
특히 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다.
마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다.
마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색∙상담 창구로도 역할 확대가 가능하다.
실제 마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 ‘우리은행 AI 지식상담 서비스’에 적용됐다. 이외에도 SK주식회사, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.
직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다. SK C&C는 제조 장비∙설비 이상 징후를 탐지하고 장애 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ(자주 묻는 질문) 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다
직무별 전문 AI 서비스는 채용 프로세스 자동화, 개인 맞춤형 인사 평가 및 육성, HR시스템 자동화 등 인사 업무를 비롯해, 재무/회계(IR 정보 지원), 법무(법률 검토 효율화), 규제 준수(규제 분석 및 검토 효율화), 구매/물류(공급망 관리 효율화), 생산관리(공정 최적화), 연구개발(데이터 검색 및 분석), IT개발(개발∙품질관리 자동화), 마케팅(캠페인 자동화), 고객관리(상담 내용 요약 및 후처리) 등 여러 산업 고객들에게 적용한 우수 사례를 종합 적용했다.
SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류∙환각(Hallucination), 내부 데이터 유출과 같은 우려도 없앴다.
생성형 AI 오케스트레이션 플랫폼에서 ▲파인 튜닝(Fine-Tuning, 미세 조정) ▲프롬프트 엔지니어링 ▲데이터 보안 및 권한 관리 등을 거치며 최적화된 LLM 및 sLLM 적용과 함께 보안 안정성도 확보할 수 있다.
특히 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 RAG(Retrieval Augmented Generation, 검색증강생성) 기반 스마트 에이전트 방식을 적용해 결과값에 대한 정확도도 높인다.
SK C&C 차지원 G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수 있고, 비즈니스 밸류를 높이는 지렛대 역할을 할 수 있을 것”이라고 밝혔다.
