→トランスフォーマー
初代トランスフォーマー(原語版)にてオプティマスプライムの声を演じていたピーター・カレン氏が亡くなりました。 享年85歳。85歳という年齢からやむなしとはいえ、このニュースは驚きでした。 そのためかX(旧Twitter)ではずっと話題沸騰状態です。 あれだけ話題になっていると初代オプティマスがいったいどれだけ人の心を捉えていたのか分かります。 初代はどこまでも偉大だったんだな。原語版はソフトもっているので今度見ようかのう。最後に Autobots Transform and Rollout!
お疲れ様です。 ライブラリを介してモデルをダウンロードする際、ダウンロード処理が途中で停止する現象が発生することがあります。 今回は、この問題の現象と、OSの設定を変更せずに回避するための手動ダウンロード手順についてまとめます。 発生した問題 Windows環境でhuggingface_hubライブラリを使ってモデルをダウンロードすると、途中で停止する現象が起こります。 特にエラー等が出るわけではなく、またフリーズするというわけでもなく、下図のような途中の状態で止まります。 Ctrl+Cで停止することはできます。 Linux(WSL)環境では問題が無かったのでWindows特有の問題のようです…
映画『トランスフォーマー』:マイケル・ベイ監督。変形ロボットの実写化に成功したSFアクション映画の金字塔 2007年に公開された映画『トランスフォーマー』(原題: Transformers)は、日本の玩具から誕生した世界的人気コンテンツを、スティーヴン・スピルバーグ製作総指揮、マイケル・ベイ監督のタッグで実写化した超大作です。あらゆるマシンに変形する金属生命体トランスフォーマーたちが、地球を舞台に壮絶な死闘を繰り広げます。最新のCGI技術を駆使した圧倒的な変形シーンと迫力のアクション、そして冴えない高校生サムと相棒のバンブルビーの絆を描いた物語は、世界中で社会現象を巻き起こしました。実写映画シ…
どっちも一発で変形する名作機構!
今回は量子化した大規模言語モデルを用いてRAGを実装してみます。 準備 ベクトルDBの構築 埋め込みモデル ベクトルDB RAGで参照する文書の用意 ベクトルDB構築と永続化 テキスト生成モデル モデル 量子化 プロンプト テキスト生成 通常のテキスト生成 RAGによるテキスト生成 大規模言語モデルをストレスなく動かそうとするとそれなりのスペックのGPUが必要になるため、個人では気軽に試すことが難しいです。 例えばパラメータ数が13B (=130億) のモデルだと、float16で扱っても約26GBのVRAMが必要になります。 しかしながら、量子化と呼ばれる方法を適用すると、パラメータを8bi…
初めに単にClaude 3.5 Sonnetに質問しただけです。質問1 pythonのtransformersライブラリでAutoModelForCausalLMを使うべきかpipelineを使うべきかどちらが良いか教えて下さい回答1AutoModelForCausalLMとpipelineのどちらを使うべきかは、あなたの具体的な使用例や要件によって異なります。それぞれの長所と短所を簡単に説明しましょう:AutoModelForCausalLM: より細かい制御が可能: モデルの動作をカスタマイズしたり、中間層の出力にアクセスしたりできます。 柔軟性が高い: 独自の前処理や後処理を実装できます…
さてさて、 BLIP , UniDiffuser で 自動キャプショニング(Image captioning, Image-toText) を実施しましたが、ここ数日は BLIP-2 を調べていました。 本日は BLIP-2 での ずんだもん のキャプションを出力してみます。
zako-lab929.hatenablog.com 前回、 BLIP-2 で Image Captioning (自動キャプショニング) を試してみました。 本日は、 Visual Question Answering (VQA) を試してみようと思います。
自作 LoRA を調べていて kohya-ss/sd-scripts の README から知った 自動キャプショニング の BLIP 。 そして、 BLIP を調べていたら BLIP-2 もあることを知りました。 今回は BLIP-2 を Google Colab で試してみます! BLIP-2 がどういったものかは説明を読んでもよくわからない!
本日は簡易版、なかなか確証が持てずにいた事項が前進したのをアウトプットです。 目次 目次 CausalLM 馴染んでいた例:テキスト分類 テキスト生成の例 おまけ CausalLM transformersでテキスト生成タスクを扱うときに指定します。 causal language modelの略ですね。 このモデルを訓練する(例:少量の教師データを用意してファインチューニング)際、どんな正解データを用意すればいいかが長らくピンときていませんでした。 馴染んでいた例:テキスト分類 分類するテキストと正解ラベルを用意します。 Yelpのレビューの例 レビューは星1〜5の5クラスのいずれかに分類さ…