大規模言語モデル入門

はじめに #ミリアニムビナナ異文化交流 ほんと最高😭 nikkieです。 LLM文脈で登場するtemperature（温度）なるものに関して、知っていることを書き出します。 読んで誤りに気づかれた場合は、@ftnextまでお知らせいただけると助かります。 目次 はじめに 目次 OpenAIのドキュメントより ドキュメント「Text generation models」 Chat Completions APIのリファレンス 再び「Text generation models」、FAQより 『大規模言語モデル入門』より 松尾研LLM講座より 第1回：Overview of Language Mo…

はじめに 無敵級ビリーバー3周年👑👑👑 nikkieです。 「お休みの日にしかできないことを」と追求した結果、最近のお休みは開発合宿感があります。 今回は気になっていた技術、BERT-CRFを触りました。 目次 はじめに 目次 ずっと引っかかっていたBERT-CRF 『大規模言語モデル入門』6章「固有表現認識」 BERT-CRFクイックツアーの感想 書籍への感想 サンプルコードへの感想 終わりに ずっと引っかかっていたBERT-CRF BERT-CRFという技術は固有表現認識でなかなかよいと聞いていました1。 ただずっと「具体的にどう実装すればいいの？」というところがよく分かりませんでした。 …

はじめに 色打掛は花嫁衣装、nikkieです 文埋め込み（文のベクトル）について、理解を更新したメモです 文埋め込み同士の距離は意味の類似度を表す （理解 NEW!!）文埋め込みは特徴量として使える （理解 NEW!!）文埋め込みは、単語埋め込みの平均ではない 目次 はじめに 目次 文埋め込みの嬉しい点（2点） 単語のベクトルの平均だと誤解していた 今後：どう作られるかを知りたい 文埋め込みの嬉しい点（2点） 紐解いたのは『大規模言語モデル入門』。 第8章が、ズバリ「文埋め込み」です。 文の意味を表現するベクトル（数字の並び）が文埋め込みです。 文埋め込みの嬉しい点（書籍だと目的）は、ベクトル…

はじめに みんなおすすめ本持ってていいなア！！じゃあ、本バトルしようぜ！本バトル！！ 自称 Python界の七尾百合子、nikkieです。 今年も年の瀬の本バトルのお時間です（投票は12/10で締切）。 2023年のおすすめ本を語っていきます！ 「ITエンジニア本大賞 2024」で投票したおすすめの本は6冊です（近日中にブログ書きます） #itbookaward https://t.co/h7WFDWt8VV 今日12/10までらしいので投票忘れなくー— nikkie / にっきー (@ftnext) 2023年12月10日 目次 はじめに 目次 前提：現時点で通読しているわけじゃないよ 『ち…