I-LLM

텍스트 생성

주요기능

고객의 요구사항에 맞는 텍스트를 수집, 가공하여, LLM 모델에 적합한 형태로 사용할 수 있도록 서비스를 제공 합니다.

고객의 데이터를 활용하여 LLM 모델을 파인튜닝하여 제공합니다. 다양한 자연어 처리 업무에 사용될 수 있도록 임베딩을 생성 제공 합니다.

GPT3.5, GPT4, LLAMA2 등 API 혹은 오픈소스로 공개된 최신 LLM 모델을 자사의 직관적인 API 형태로 제공합니다.

고객사의 데이터를 벡터 DB에 저장하고, 질의 응답 시 벡터검색을 통해 답변의 정확도를 높이는 RAG 시스템을 제공합니다.

수집 데이터, 모델, 그리고 모델 지표를 추적 관리 할 수 있는 시각화 서비스를 제공합니다.

주요 엔진 및 성능

RAG(Retrieval Augmented Generation)를 구현한 엔진으로, 고객사의 데이터를 벡터 DB에 저장하고, 질의 응답 시 벡터검색을 통해 답변의 정확도를 높이는 엔진입니다.

GPT3.5, GPT4, LLAMA2 등 API 혹은 오픈소스로 공개된 최신 LLM 모델을 기반으로 고객사의 데이터를 활용해 파인튜닝을 진행하는 엔진입니다. 질의 응답, 요약, Chat 등 요구 사항에 따라 지표를 설정하고 파인튜닝을 진행합니다.

솔루션 구성도

사용 사례

영어 읽기 시스템에서, 사용자의 문장에 대한 정확한 문법 설명과 해석 제공을 위해 RAG 엔진을 활용했습니다.

도입 절차