大規模言語モデル

今回は、クオカード デジタルイノベーションラボ（以下ラボ）のインフラチームがRAG（Retrieval-Augmented Generation）を用いた社内情報検索システムを構築した話をご紹介します。 まだ構築したばかりで、これから本格的な効果測定を行う段階ですが、今回の記事が、これから社内RAGシステムの構築を考えている方の参考になれば幸いです。 RAGとは なぜRAGが必要だったのか？ 構築の前提と方針 構築ステップと技術選定 費用 活用状況 まとめと今後の展望 最後に RAGとは RAG（Retrieval-Augmented Generation）は、大規模言語モデル（LLM）の弱点…

エンジニア集団の中に潜む非エンジニアの生態 はじめまして。Insight Edgeセールス・コンサルティングチームで契約業務や売上管理を担当している非エンジニアの長尾です。 周りを見渡せば、AIやデータサイエンスの博士号を持つメンバーや、大規模なシステム開発を率いてきた猛者ばかり。そんな技術のプロフェッショナル集団の中で、私はコードを書かない「非エンジニア」として働いています。 私の周りでは、日常会話で「fetchするためのMCPサーバを...」や「LLMによるペルソナ生成のプロンプトが…」といった言葉が飛び交います。それを聞きながら「今はポジティブな話？それともネガティブな話…？」と、話の趣…

1. はじめに NTT西日本の相浦です。 NTT西日本公式の技術ブログが始まりました。記念すべき第一回ということで、最近の私の「やってみた」を共有したいと思います。 最近よく耳にするAIエージェント。でも、「結局どういう場面で役立つの？」と思う方も多いのではないでしょうか。 本記事では、自治体業務の一つである粗大ごみ収集申込の受付を例にして、対話型で申込受付をしてくれるAIエージェントのサンプルを作ってみたのでご紹介します。 作ってみて気づいた工夫ポイントや「ここは意外と難しい」というところも交えつつ、「自分の業務に当てはめられるかも」と思っていただける内容を目指します。 1. はじめに 2.…

本記事では、クオカード デジタルイノベーションラボ（以下、ラボ）におけるAIツールの導入方針、活用事例、今後の展望についてご紹介します。 導入方針 室長主導でスムーズな導入 関心のある人から試し、課題解決に繋がりそうなものを取り入れる 現在の導入状況 活用する上で意識していること 効果的な活用に向けた取り組み 活用ルールの策定 AI利用時に良い結果を得るための工夫 ナレッジ共有によるAIツールの活用促進 1. 参考書籍の共有 2. 日常的な情報共有 今後の展望 最後に 導入方針 室長主導でスムーズな導入 ラボでは、室長の齋藤が中心となり、AIツールの導入を推進しています。 齋藤は技術動向に常に…

こんにちは、Insight Edgeデータサイエンティストの中野です。 データサイエンスやLLMのプロジェクトを進めていると、こんな課題にぶつかった経験はありませんか？ ラベル付きデータが足りず、最初からモデルを作れない 課題感はあるけど、問題定義が曖昧で進め方がぼんやりする 作ったものが「本当に役に立っているのか」評価できない 私も個人で取り組んだ家計簿分析プロジェクトで、まさにこれらの課題に直面しました。そこで試したのが 「評価駆動開発（Evaluation-Driven Development）」 です。 この記事では、家計簿アプリの明細分類を題材に、評価を起点にプロジェクトを進めた流れ…

大規模言語モデル (LLM) と呼ばれるAIの前身のようなチャットボットが世に広く出回って数年になる。私がその存在をはっきりと認識したのはGPT-3が登場したときだった。それにより，教育のスタイルはガラリと変わり，私のような教員くずれは職を失うだろうと暗い気持ちになったものだ。 そのように大々的に取り上げられるようになったLLMであるが，私が使い始めたのはようやくこの夏である。スペックが低すぎてまともに使えないChromebookのOS更新を機に強制的にGoogle Geminiが導入されたのが大きい。それからほどなくしてAndroidスマートフォンにもGeminiアプリが強制導入されたのだが…

こんにちは、CTO の田中（@stanaka）です。 最近は趣味で LLM の内部構造を勉強していて、LLM 自作などに手を出しています。 さて、世の中は AI コーディングツールの話題で持ちきりですが、弁護士ドットコムでも活用を進めており、現在の状況をまとめてみました。 導入ツール 弁護士ドットコムでは、以前から GitHub Copilot を使ってきましたが、今年の初頭からさまざまな AI コーディングツールの導入を進めています。 ざっとあげると、GitHub Copilot, Cursor, Cline, Claude Code, Devin あたりのメジャーどころは一通り使えるように…