みなさんこんにちは。燈株式会社CTOの三澤です。今回は、ドメイン・業界特化の検索拡張生成(Retrieval Augmented Generation: RAG)システム構築における言語モデルの学習について紹介します。この記事は、ドメイン特化のRAGシステム構築に興味のあるAIエンジニアを対象にしています。 TL;DR 背景 専門分野におけるRAGシステムの課題 ドメイン特化RAGシステムの概要 ドメイン特化Embeddingモデルの学習 学習条件 学習結果 ドメイン特化Rerankerモデルの学習 学習条件(Stage 1) 学習条件(Stage 2) 学習結果 最後に We’re Hiri…