Chainlit

Chainlitを使ってチャットアプリを作ってみました！ こんにちは、CCCMKホールディングス TECH LABの三浦です。 先日久しぶりに飛行機に乗りました。当たり前のことなのですが、飛行機を使うと数100キロ離れていてもあっという間に移動することが出来ます。朝起きた場所と、夜眠る場所が数100キロも離れてるなんてなんだか不思議だな、と思いました。 最近以前から試してみたいな、と思いつつ、なかなか試すことが出来ていなかったChainlitというPythonのライブラリをついに試すことが出来ました！Chainlitを使うととてもスピーディーにチャット型のアプリケーションを作ることが出来ます。…

こんにちは！Exa Enterprise AIのZHANG Zhanhangと申します。 私は機械学習エンジニアとして2024年4月に入社し、Exa Enterprise AIのAI戦略グループに配属されました。これから定期的にテックブログを発信していきますので、エンジニアとして挑戦したい方の参考になれば嬉しいです！ 初回記事では、主に新卒ハッカソン研修の取り組みを振り返ります。 概要 新卒研修の一環として、AI技術が社会でどう使えるのか、実際のアプリケーションまで作る3ヶ月のプロジェクトを行いました。 私たちは先輩エンジニアと「マルチモーダルRAG」に主題を絞り、4月中にユーザーニーズ・要件…

はじめに Ollma ローカル環境で大規模言語モデル(LLM)を簡単に実行できるオープンソースのフレームワーク Chainlit 対話型AIアプリケーションを簡単に作成・デプロイできるプラットフォームで、特に大規模言語モデル（LLM）やチャットボットの開発に役立つツール LangChain 大規模言語モデル（LLM）を活用してアプリケーションを構築するためのフレームワーク HuggingFace 無料で多数のオープンソースLLMをダウンロードして使用できるプラットフォーム OllamaでローカルLLM環境をつくって、Web対話ボットをChainlitを用いて作成する。完成イメージはこんな感じ。…

はじめに Chainlit 対話型AIアプリケーションを簡単に作成・デプロイできるプラットフォームで、特に大規模言語モデル（LLM）やチャットボットの開発に役立つツール LangChain 大規模言語モデル（LLM）を活用してアプリケーションを構築するためのフレームワーク HuggingFace 無料で多数のオープンソースLLMをダウンロードして使用できるプラットフォーム HuggingFaceでダウンロードしたモデルでローカルLLM環境をつくって、対話ボットをChainlitを用いて作成する。完成イメージはこんな感じ。 検証環境 Dockerコンテナー（nvidia/cuda:12.6.2-…

02 与えたPDFをもとに回答するチャットボットを作る 03 RetrievalQAを使ってQAシステムの構築を楽にする 参考文献 02 与えたPDFをもとに回答するチャットボットを作る pip install chromadb==0.5.30.5.4だと上手くいきませんでした。 参考記事 github.comchat_3.py import chainlit as cl from langchain_groq import ChatGroq from langchain_community.document_loaders import PyMuPDFLoader from langchai…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 小さなころに体験したことの中で、なぜか今でもはっきり思い出せることがいくつかあります。自分にとってはその一つが"パンナ・コッタ"というお菓子を初めて食べた時の記憶です。"パンナ・コッタ"という独特な名前のせいなのか、味がとても美味しかったからなのか、理由は分からないのですが、その時のことを時々思い出します。 さて、最近Large Language Model(LLM)を使ったアプリケーションの開発のために色々とプロンプトの調整や処理パイプラインの工夫などを試しています。その中で試したことを細かく記録に付けていきたいな・・・と…

shu-kob.hateblo.jp ↑前回の復習をしていきます。前回参加していない方も大丈夫です。 PDFをディレクトリに配置して、取り込む作業が面倒なので、画面からPDFをアップロードできるようにしましょう。 chainlit_upload_pdf.py import os import chainlit as cl from langchain_community.chat_models import ChatOpenAI from langchain_community.document_loaders import PyMuPDFLoader from langchain_commu…

genai-users.connpass.com この記事は、日本生成AIユーザ会 #1 生成AIアプリケーション開発入門ハンズオンの資料です。 ↓アーカイブ動画はこちら youtu.be 自己紹介 小渕 周（こぶち しゅう） 2023年12月株式会社スリーシェイクに入社 Sreake事業部 エンジニア 生成AIアプリケーション開発に従事 sreake.com 発表内容 Python + LangChain + OpenAIで簡単なサンプルコードを実行しながら生成AIアプリケーション開発についてご説明していきます。 プロンプトエンジニアリングについても学べる内容となっています。 最後に少しRA…