AI

AI, RPA 전문기업 코세나 초거대언어모델(LLM) 서비스, Kor-Merino Beta 서비스 발표

담락 이승훈 실장 2023. 4. 4. 18:13

AI, RPA 전문기업 코세나 초거대언어모델(LLM) 서비스, Kor-Merino Beta 서비스 발표

 DX구현을 위한 AI, RPA 전문기업 주식회사 코세나(대표이사 이승훈)는 최근 핫 이슈가 되고 있는 
LLM 서비스인 Kor-Merino Beta 버전을  발표한다고 밝혔다.

 현재 AI업계에서 폭발적인 관심으로 떠오는 챗GPT, 바드 등의 초거대 언어모델들은 이제 평범한
삶 안에서도 AI를 품는데 많은 역할을 하고 있다. 그러나, 일반인 외에 엔터프라이즈 기업과 공공기관,
금융기관 그리고 서비스 업계에서는 클라우드 기반으로만 제공되는 서비스에 대한 활용이 생각보다는
크게 활성화되지 못하고 있다.

 이에 초거대 언어모델을 고객 내부적으로 온프레미스 방식 즉, 고객 로컬 사이트에 구축하는 방안이
대안으로 떠오르고 있다. 이미 해외에서는 오픈AI나 구글 외에도 벤처기업이나 기존 중견기업들이 
초거대언어모델을 로컬로 구축할수 있는 서비스를 제공하고 있으며 국내에서도 주식회사 코세나 같은 
AI 업체들이 서비스를 발표하고 있다.

 이번 코세나의 LLM 서비스인 Kor-Merino Beta는 오픈소스 기반의 초거대 언어모델을 로컬로 구축하는
서비스로서 고객 보유 데이터에 따라 오픈소스인 LLaMA 또는 GPT-J를 활용하여 내외부 서비스를 구축하도록
하는 패키지된 솔루션으로서 GPU서버와 함께 제공된다.

 코세나 이승훈 대표이사는 " 현실적으로 고객 내부에 초거대언어모델을 구축하여 내외부 서비스를 제공하기
위해서는 우선 내부 데이터 정리 및 전처리가 우선되어야 하며 고객 데이터셋에 따라 알고리즘을 선택적으로
활용하도록 하고 있다. 고객이 보유한 데이터셋만을 대상으로 LLM을 구축하려면 굳이 엄청난 비용과 시간이 
소요되는 방식을 택할 필요는 없으며 당연히 보안과 경제적인 문제도 고려해야 한다"라고 밝혔다.  

 AI업계에서는 API방식인 초거대언어모델 서비스와 더불어 작은 규모의 LLM 구축방식에 대한 관심도도 매우 
높아지고 있어서 AI 비지니스 증가에 대한 기대감을 높이고 있다. 문의처)02-418-7655, admin@kosena.kr