MoE

【2025年6月発売】豪華付録付き雑誌まとめ｜事前予約で確実ゲット！ 2025年6月発売の付録付き雑誌をまとめてご紹介 話題の付録のリンク付き！ 📅 2025年6月3日発売｜注目の付録付き雑誌 MOE 2025年7月号【限定クリアファイル付録】 大人気絵本雑誌「MOE」の最新号には限定のオリジナルクリアファイルが付属！ ▶ 購入はこちら Amazonで予約 楽天ブックスで予約 猫のダヤン マルチに使えるお薬手帳ケースBOOK 診察券・領収書・お薬手帳を ひとまとめに管理便利で可愛いケース付きムック本 ▶ 購入はこちら Amazonで予約 🎥 YouTube紹介動画 動画で発売日・付録内容が一目…

管理人のRicopiです。 今までにMoEにて作成したキャラをちょっとまとめてみようと思いブログを設立してみました。 2023年秋ごろに復帰を致しました。 今はのんびりしながらDiamondサーバーにてMoEを楽しませていただいております。 ↓↓↓ではキャラ紹介↓↓↓ ：ぽんたそ（深緋の賢者） 所属ギルド<アルケィナ> 所属FS<PND>（サブマスター） 初代キャラ。 じっくり考えずなんでもできるキャラにしたい！と 気になるスキルをどんどん上げていったらとっても貧弱で戦闘も生産も中途半端なキャラになってしまったので構成変更。 現在破壊魔法を70まで取って深緋の賢者になっておりますが、最終的には…

前の記事で、絵本のマイブーム到来！ まずは宮西達也先生の絵本💓だったが、次のブームは、島田ゆか先生。バムとケロのシリーズだ、はじまりはじまりー。 ランキング参加中【公式】2023年開設ブログ アフィリエイト広告(Amazonアソシエイト含む)を掲載しているこの｢脳梗塞 ワレンベルグな日々｣は、脳梗塞経験者である自分が、日々感じたことなどを雑多に書いている日記。先に始めていたNo+e版 まつ＠ワレンベルグな日々、時々No+e日記｜noteにも、過去の就職までの自宅療養記をメインに日記を綴っている。2022年大晦日に脳梗塞(ワレンベルグ症候群)で入院、4ヶ月後退院、しかし無職となった。後遺症が出る…

「Merggoo」というLLMマージ用の新しいライブラリができたそうで、開発者の方がRedditでもPRポストを上げておられます。 もしかするとMegekitに代わるものになるのかもしれません。MoEのルーティングの学習や、LoRA Adapterの混合など。 面白そうなので後で試せればと思いますが、概要だけ先に見ておこうと思います。以下、開発者ブログの和訳です。 Mergoo: 効率的にマージし、微調整する (MoE, Mixture of Adapters) huggingface.co 私たちは最近、複数の LLM エキスパートを簡単に統合し、統合された LLM を効率的にトレーニングす…

前回Chat Vectorについて簡単に予習したので、とりあえず「LightChatAssistant 2x7B」の作成手順を再現してみたいと思います。 作者さんがモデルカードで丁寧に説明してくださっているので、基本的にそれをなぞるだけです。まずはまったく同じモデルを作ってみます。 huggingface.co Chat Vectorによる処理 Google ColabのCPU（ハイメモリ）で試します。3つ分のモデルファイルを扱えるだけのRAM容量さえあればよく、GPU無しで完結するようです。 まずは、Chat Vector処理を行うための依存関係をインストールします。ColabだとTrans…

前回の記事で、「LightChatAssistant 2x7B」が日本語チャットモデルのベンチマークでもかなり高いスコアを示すことを確認しました（スコア上はCohereの「Command-R 35B」に近い水準です）。 体感的にもベンチマーク的にも優れた日本語チャットモデルで、サイズが小さいことも考えるととても魅力的です。 sc-bakushu.hatenablog.com 作者さんがモデルカードで説明されている制作プロセスを読むと、単純に「ChatNTQ 7B」と「Antler-7B」をMoEマージする前に、ChatVectorという手法により各モデルに微調整を施しているようです。 となると…

パッチ6.5「光明の起点」で実装された、ミソロジー・オブ・エオルゼアのクエストです。 「神々に愛されし地、エオルゼア」