Hatena Blog Tags
はてなブログ トップ
LLMs
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

LLMs

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
CCCMKホールディングス TECH LABの Tech Blog•3日前

OpenAIの新モデル「GPT-4.5」について調査してみました

こんにちは。AIエンジニアリングGの矢澤です。 先日、昔遊んでいたゲームに関する動画を見ました。 昔のゲームは、ハードウェアに関する制約がある中でメモリを効率化したりCPUの強さを調整するために、様々な工夫を行っていたという話を聞いたことがあります。 現在は当時よりもAIや画像処理などの技術が向上していると思うので、リメイク版が出たらファンにとって喜ばしいことだと思いました。 AIについて、最近GPTモデルの最新版であるGPT-4.5が公開されました。 GPT-4.51はOpenAIが2024年後半にリリースした最新のLLMモデルで、GPT-4系の従来モデルファミリー（GPT-4、GPT-4o…

#GPT-4.5#OpenAI#LLMs

関連ブログ

CCCMKホールディングス TECH LABの Tech Blog•1年前

レコメンデーションタスクへのLarge Language Modelsの活用について調べてみました。

レコメンデーションタスクへのLarge Language Modelsの活用について調べてみました。 こんにちは、CCCMKホールディングスTECH LAB三浦です。 私の住んでいる街でも雪が降り、朝には少し雪が積もっていました。雪が降るのを見ながら、「寒くなるな・・・」とか、「道が歩きにくくなるな・・・」とか、「電車動くのかな・・・」とか、マイナスなことばかり考えている自分に気づきました。子どもの頃は雪が降ると、いつもと違う雰囲気にワクワクしていました。そういえばいつから雪を見てワクワクしなくなったんだろう、とふと考えたりしまいた。 さて、今回は最近興味があって調べていたレコメンデーションタ…

#LLMs
CCCMKホールディングス TECH LABの Tech Blog•2年前

対話Agent同士で漫才をさせてみました。

こんにちは、CCCMKホールディングス TECH LABの三浦です。 "秋の味覚"と聞いて、どんな食べ物を思い浮かべますか？？私は最近さつまいもを使ったお菓子が好きで、さつまいもが秋の味覚として浮かびます。さつまいもを使ったお菓子、甘さが優しくて食べるとホッとします。 LLMは様々な用途で活用することが出来ますが、今私が特に興味を持っているのが"Autonomous Agentシステム", つまり自律型のAgentシステムです。"Agent"は日本語では"代理人"と訳すことが出来るので、Autonomous Agentシステムは人の代わりに自律的に考えて行動を起こすことが出来るシステム、という…

#LLMs#LangChain
CCCMKホールディングス TECH LABの Tech Blog•2年前

描いた絵をものすごくほめてもらえるアプリを生成AIの力を借りて作ってみました！

こんにちは、CCCMKホールディングス TECH LABの三浦です。 10月になってだいぶ気温が下がってきました。秋は自分にとっては夏が終わった後に訪れる、過ごしやすくて食べ物が美味しい季節、という印象ですが、秋から学校の新学年が始まる国もあり、その国の人たちにとっては秋って特別な季節なんだな、と最近知る機会がありました。自分が春になると感じるような気持ちを、その国の人たちは秋になると感じるのかな、と想像したりしました。 みなさんは絵を描くこと、お好きでしょうか？私は好きなのですが、あまり上手ではありません・・・。動画配信などでさらさら～っと上手に絵を描いている人たちの姿を見ていると、とてもう…

#LLMs#Azure Open AI Service
CCCMKホールディングス TECH LABの Tech Blog•2年前

StreamlitとAzure OpenAI Serviceを使って自然言語でグラフを描けるアプリを作ってみました。

CCCMKホールディングス TECH LAB三浦です。 10月になりました。ちょうど過ごしやすい時期で、一年の中で一番好きな時期かもしれません。外を歩いていても気持ちがいいので、今のうちに色々なところに出かけたいな、と思っています。 以前Streamlitを使ってChatアプリを作成する方法について調べてまとめました。 techblog.cccmk.co.jp 今回はその内容を少し発展させて、次のようなアプリを作ってみました。 アプリケーションを立ち上げてログインすると、次のような画面が表示され、 📈グラフを描画するAI📊 CSVファイルをアップロードすることが出来ます。 CSVをアップロード…

#LLMs#Streamlit
CCCMKホールディングス TECH LABの Tech Blog•2年前

Reinforcement Learning from Human Feedback(RLHF)について調べて実装まで試してみました！

こんにちは、CCCMKホールディングス TECH LAB三浦です。 なんだか急に涼しくなってきました。過ごしやすくなってありがたいのですが、急な気温の変化に体が付いていけていないです・・・。こういう時期はちゃんと睡眠をとらないと、と意識するようになりました。 今回は以前から気になっていた、Reinforcement Learning from Human Feedback(RLHF)という強化学習の手法について調べてみました。 LMがより好ましいテキストを生成出来るようにする 大量のテキストデータによって自然なテキストを生成できることが出来るようになった言語モデル(Language model…

#LLMs#RLHF
CCCMKホールディングス TECH LABの Tech Blog•2年前

Tree of Thoughts(ToT)でなぞなぞ作りを試してみた話。

こんにちは、CCCMKホールディングスTECH LABの三浦です。 手書きの手紙を送ることが最近減ってきたのですが、敬老の日には手書きの手紙を送ったりします。そもそも手書きで文章を書くこと自体が減ってきたので、この漢字ってこの書き方でいいんだっけ・・・？と、簡単な漢字なのに不安になってしまうことが何回かありました。時々は意識して手書きで文章を書くようにした方がいいかな、と感じました。 前回Prompt Engineeringのテクニック、"Tree of Thoughts(ToT)"について、論文を読んで調べたことをまとめてみました。 techblog.cccmk.co.jp ToTを自分でも…

#LLMs#Prompt Engineering
CCCMKホールディングス TECH LABの Tech Blog•2年前

Prompt Engineeringのテクニック、"Tree of Thoughts"について調べてみました。

こんにちは、CCCMKホールディングスTECH LABの三浦です。 学生の頃に好きだった漫画を久しぶりに読みました。数十年ぶりに読んだのですが、当時何度も繰り返し読んだストーリーなのでしっかり今でも内容を覚えていました。当時と違って今はインターネットで色々な考察している人たちの意見を見ることが出来ます。このシーンってこういう意味だったんだ！と今になって新しい角度からストーリーを見ることが出来たりして、結構楽しいです。昔読んだ漫画や小説を、今もう一度読み返してみるのって面白いな、と感じました。 さて、今回はPrompt Engineeringのテクニックの一つ、"Tree of Thoughts…

#LLMs#Prompt Engineering
CCCMKホールディングス TECH LABの Tech Blog•2年前

LLMsのチューニング手法"Prompt Tuning"について論文を読んで調べてみました！

こんにちは、CCCMKホールディングスTECH LABの三浦です。 9月になりました。まだまだ暑い日が続いていますが、9月になると私は"夏は終わったんだな"という気持ちになります。少し寂しい気もしますが、とにかく早く涼しくなってほしいな・・・と思う今日この頃です。 以前このブログでQLoRAを使ってLLMsをチューニングする、といったことに取り組んでいることをご紹介しました。QLoRAの"LoRA"の部分の実装はHuggingFaceのPEFTというライブラリを活用したのですが、このPEFTには他にもLLMsをチューニングする手法が実装されています。そのうちの一つが"Prompt Tuning…

#LLMs
CCCMKホールディングス TECH LABの Tech Blog•2年前

Retrieval Augmented Generation(RAG)アーキテクチャをHuggingFaceのモデルで作ってみよう！ ～Training編

前回の続きです。今回は赤枠の部分に取り組みます。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 朝早くに外に出ると、なんとなく前に比べたら涼しくなったかも、という気がしました。一時期本当に暑い日が続き、だいぶ身体も堪えたので、涼しい日が待ち遠しいです。 さて、前回からローカルな環境でRetrieval Augmented Generation(RAG)を実装するための方法について、調べたり試したりしたことをまとめています。 techblog.cccmk.co.jp RAGはLLMsに与えるプロンプトに外部のデータを組み込むことで、LLMsが記憶していない情報についても答…

#LLMs