분류 전체보기
-
DiffBot에서 구현한 GraphRAG작업 소스 코드 공유의 건AI 2025. 1. 12. 13:17
최근, 대규모 언어 모델(LLM)이 점점 더 많은 데이터로 훈련되어 매개변수 수와 필요한 컴퓨팅 파워가 증가했습니다. 하지만 모델에 더 많은 데이터를 제공하는 대신 의도적으로 사전 훈련 데이터에 덜 의존하고 외부 지식을 찾는 능력에 더 의존하도록 훈련한다면 어떨까요? 이 아이디어를 테스트하기 위해 Diffbot에서 LLama 3.3 70B를 실시간 지식 그래프 API의 전문 도구 사용자가 되도록 미세 조정하여 Google Gemini와 ChatGPT보다 성능이 뛰어난 GraphRAG 시스템의 첫 번째 오픈 소스 구현을 제공했습니다. 아래는 깃허브 소스코드 공유 링크입니다....실시간 RAG 구현에 도움이 되시길 바랍니다.. GitHub - diffbot/diffbot-llm-inference: DIffb..
-
LLM 구축 시 Fine-tuning과 RAG 비교와 결합 사례AI 2025. 1. 12. 13:07
1. LLM 구축 시 Fine-tuning과 RAG 비교 LLM(대규모 언어 모델)을 구축할 때 Fine-tuning과 RAG(검색 증강 생성)를 함께 사용하는 것이 좋은지, 아니면 고객의 요구와 문서 종류에 따라 별도로 구축하는 것이 좋은지에 대한 결정은 여러 요소에 따라 달라질 수 있습니다. 아래는 두 접근 방식의 장단점과 비용을 비교한 표입니다. 특징Fine-tuningRAG (Retrieval-Augmented Generation)정의사전 훈련된 LLM을 특정 데이터셋으로 추가 학습하여 성능을 최적화하는 과정.LLM이 외부 데이터 소스에서 정보를 검색하여 답변을 생성하는 방식.장점- 특정 도메인에 맞춘 최적화 가능- 일관된 성능 제공- 특정 작업에 대한 깊이 있는 이해 가능- 최신 정보 반영 가능..
-
2024년 12월 생성AI 자료 및 트렌드를 공유하고자 합니다.AI 2025. 1. 1. 19:25
안녕하십니까? 이승훈 실장입니다... 2024년 12월 생성AI 자료 및 트렌드를 아래와 같이 공유하고자 합니다.(작년 마지막 날에 보내드린 다는 것을 최근의 엄청한 이슈로 인해 깜빡했습니다...) 12 AI predictions for 2025https://www.cio.com/article/3630070/12-ai-predictions-for-2025.html?huid=c183fc20-669c-48af-a29b-d7404a29eb86&utm_date=20241231004512&utm_source=pocket_saves 2025 AI 트렌드 10가지https://insight.infograb.net/blog/2024/12/06/2025-ai/ "o3는 AGI에 도달한 첫번째 모델"...오픈AI, 최첨단..
-
AX전문업체 코세나, sLLM기반의 지식관리챗봇인 DeepKMS 챗봇의 고도화에 나서AI 2024. 12. 30. 13:23
AX 전문업체인 주식회사 코세나(대표이사 이승훈)는 올해초 출시한 sLLM기반의 DeepKMS 솔루션을 업그레이드하여 최근 LLM 기술에 발 맞추어 고도화에 나서고 있다고 밝혔다.. 이미지와 텍스트를 모두 지원하는 멀티모달기반의 LLMOPS기능을 추가하고 최근 LLM 관련기술중에서 각광받고 있는 좀 더 쉬운 화인튜닝 기능 지원, 멀티 에이전트 지원기능, 다양한 RAG 작업 지원, 다양한 리트리버 지원 기능, 문서 전처리 단계에서의 PDF 처리 모듈, 산업부문별 임베딩 모델 등을 추가하고 폐쇄형 LLM과 오픈형 LLM을 사용자가 자유로이 쉽게 선택할 수 있도록 기존 DeepKMS의 기능을 대폭 업그레이드하였다고 밝혔다. (주)코세나 이승훈 대표이사는 " 최근 고객들은 LLM이 실제 업무에 적용되기 위해..
-
-
LLM 기반의 검색 기술 솔루션, iTrinity Search 솔루션을 소개해 드리고자 합니다.AI 2024. 12. 12. 15:28
LLM 기반의 검색 기술 솔루션, iTrinity Search 솔루션을 소개해 드리고자 합니다. 1. 일반 검색엔진은 검색된 문서의 요약이나 의미 해석은 사용자가 직접 해야 하나 RAG는 검색 결과를 검색 이상의 정보로 해석하고 요약하여 사용자 친화적인 답변을 생성하여 제공을 합니다. 2. LLM 기반의 검색(RAG)은 기존의 제한적인 단어 매칭 검색엔진에서 벗어나, 찾고자 하는 여러 문장 내에서 복잡한 질문에 대한 맞춤형 답변과 답변 요약을 제공하는 부분이 큰 기술적 우위에 있어 효율성 및 적용성에 있어서 일반 검색엔진과 차별화됩니다. 최근의 복잡한 질문에 대해 직접적인 답변을 요구하는 고객의 니드가 많은 상황에서 LLM 기반의 검색 기술 솔루션, ITrinity Search를 사용하시면......