DiffBot에서 구현한 GraphRAG작업 소스 코드 공유의 건

 

최근, 대규모 언어 모델(LLM)이 점점 더 많은 데이터로 훈련되어 매개변수 수와 필요한 컴퓨팅 파워가 증가했습니다. 하지만 모델에 더 많은 데이터를 제공하는 대신 의도적으로 사전 훈련 데이터에 덜 의존하고 외부 지식을 찾는 능력에 더 의존하도록 훈련한다면 어떨까요?

 

이 아이디어를 테스트하기 위해 Diffbot에서 LLama 3.3 70B를 실시간 지식 그래프 API의 전문 도구 사용자가 되도록 미세 조정하여 Google Gemini와 ChatGPT보다 성능이 뛰어난 GraphRAG 시스템의 첫 번째 오픈 소스 구현을 제공했습니다.

 

아래는 깃허브 소스코드 공유 링크입니다....실시간 RAG 구현에 도움이 되시길 바랍니다..

 

GitHub - diffbot/diffbot-llm-inference: DIffbot LLM Inference Server