Stream

steamで安売りされていたゲームをやり始める そのゲーム名はメトロエクソダス 舞台はロシアからヨーロッパにかけてなのかな？ 戦争が起きた後の荒廃した地上には住むことができなくなり、地下、メトロに引きこもって過ごし始めた人類。 そんな窮屈な生活はおかしい きっと地上にも生きている人がいると信じて疑わない主人公 そして、今日も主人公は地上をさまよい探すのだった。 そんな主人公はこんな世界でありながら嫁さんがいるのだ く、羨まし・・・ いや、なんでもない。 そんな世界で生き抜く人たちの苦悩と希望を表しているのだ！！ ゲームの説明はこんな感じでいいとして、私はこのゲームをtwitchで配信しながら楽…

はじめに シャニマス、むずい... nikkieです。 OpenAIのChat completionsは、クライアント（openaiライブラリ）で1トークンずつ処理（streamで処理）できます。 openaiライブラリはHTTPX1を使っていると知っていたので、HTTPX単体のstreamを素振りしました。 ※なおOpenAIのAPIを使うのであれば、HTTPXではなく、使いやすくラップしてくれているopenaiライブラリを使うほうがよいと考えます。 本記事は理解を深めるための車輪の再実装です 目次 はじめに 目次 OpenAIのChat completions、curlでstream HT…

はじめに 今晩は朝までラーニング! nikkieです。 ChatGPTが流れるように出力する仕組みに迫る素振りです。 目次 はじめに 目次 OpenAI Cookbook「How to stream completions」 動作環境 streamを指定しない場合 streamを指定する場合 まとめ：OpenAIのChat completionsでstream指定の有無の比較 終わりに 番外編：asyncバージョン OpenAI Cookbook「How to stream completions」 OpenAIのGPTをはじめとするLLM（大規模言語モデル）は、プロンプトに続く文章を1トーク…

こんにちは、エンジニアの渡辺（@mochi_neko_7）です。 今回は Rust における Stream の基本的な取り回しを紹介します。 Anthropic の Claude API の Rust Client を書いていた際に Streaming API の対応をしていたところ、自身が Rust の Stream をちゃんと理解していなかったことに気づき勉強し直していました。 ところが日本語で解説している記事をあまり見かけなかったため、本記事で自分の理解している範囲で基礎的な内容を整理して紹介したいと思います。 もし間違った記述等ありましたらご指摘いただけますと幸いです。 環境 Rust…

Stream. ストリーム

Jet stream. ジェットストリーム

StreamのAPI仕様確認 AutoClosableが必要となるケース java.nio.file.Files list lines jOOQ(ORM) ResultQuery close処理を付与したいなら 最後に 参考・出典 本記事は、JJUGにて登壇したものを、記事向けに加筆修正したものです。 その際の動画・スライドはこちらのページでご覧頂けます。 beppy.hatenablog.com StreamのAPI仕様確認 StreamのAPI仕様を確認すると、AutoClosableがついています AutoClosableがついているということは、以下のように、try-with-reso…