에이프리카, 공공·기업 대상 '프라이빗 LLM' 시장 공략

'환각 현상' 없앤 프라이빗 LLM 구축 서비스 시작

LLM 컨설팅부터 시스템 구축까지 서비스 제공

[서울=뉴시스] 오동현 기자 = 인공지능(AI) 개발 및 클라우드 관리 소프트웨어 전문기업 에이프리카는 프라이빗 LLM 시장 공략을 시작한다고 28일 밝혔다.

에이프리카는 폐쇄형 환경에서 보안에 안전하고 환각 현상이 없는 LLM서비스가 가능하도록 프라이빗 LLM 구축 서비스를 시작한다.

공공기관이나 민간에서는 업무 특성상, 개별 산업과 관계된 법령, 법규를 참고해야 하는 일이 많다. 에이프리카는 우선 이런 법령, 법규를 전문적으로 훈련한 자체 개발한 LLM모델 '가젤(Gazellm)'을 출시한다.

가젤은 LLM에서 일반적으로 발생하는 할루시네이션(환각 현상)을 바로잡고, 정확한 답변을 제공하기 위해서 검색 증강 생성 기술인 RAG(Retrieval-Augmented Generation)를 적용한다. 사용자들이 신뢰할 수 있는 내부지식에 기반한 생성형 답변을 제공할 계획이다.

에이프리카의 AI 연구소에서 프라이빗 LLM 컨설팅부터  LLM시스템 구축까지 원스톱 서비스를 제공할 예정이다. 특히 산업군 별로 도메인 특화 엔진 개발이 가능하도록 학습데이터 구축부터 파인 튜닝까지 전과정을 지원할 예정이다.

또한, 에이프리카는 AI 개발 플랫폼(MLOps) 치타에 LLM특화 기능을 개발해 2024년 상반기 LLMOps(대형언어모델 운영) 제품을 출시할 예정이다. 향후 출시할 LLMOps에서는 사용자가 문서 데이터만 입력하면 LLM모델을 재훈련하고 자동 배포되는 RAG 파이프라인의 전 과정을 자동화하는 LLMOps 체계를 제공할 예정이다.

이규정 에이프리카 대표는 “공공기관, 금융기관 등 폐쇄형 환경에서 LLM 기술을 적용하려는 시도가 크게 늘고 있다”며 “AI 개발 플랫폼 치타는 다양한 공공기관, 민간기관에서 전문적으로 AI 전문가들이 AI를 개발하는데 활용되고 있으며, 에이프리카는 생산기술연구원, 경찰청, 광주과학기술원, 현대글로비스 등 기존 고객을 중심으로 RAG기반의 프라이빗 LLM을 구축하고, 이를 전 산업분야로 확대해 나가겠다”고 전했다.


◎공감언론 뉴시스 [email protected]