Hatena Blog Tags
はてなブログ トップ
LightGBM
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

LightGBM

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
クッキーの日記•4ヶ月前

LightGBM で多クラス分類をするときのゲインの話

まとめ： LightGBM で多クラス分類するとき、 例えばアヤメの 3 クラス分類なら LightGBM は 1 ラウンドごとに 3 本の木を構築し、それぞれの木は「セトーサらしさのスコア」「バーシカラーらしさのスコア」「バージニカらしさのスコア」を前ラウンドまでの累積スコアからどれだけ変動させるかを出力する。最終的に各ラベルらしい確率を出力するときは、各ラベルらしさの累積スコアが Softmax される。 木の訓練時には交差エントロピー損失が最も減る分岐を探索するが、このとき厳密に損失を計算するのではなく、前ラウンドまでの累積スコアの周りでの 2 次までのテイラー近似 (のヘッセ行列の非対…

#LightGBM

関連ブログ

okpy•5ヶ月前

Python LightGBM: 機械学習の予測モデル、まだ実行に時間がかかっていますか？

Python LightGBM: 機械学習の予測モデル、まだ実行に時間がかかっていますか？ 📝 TL;DR (3行要約) LightGBMは、Microsoftが開発した「勾配ブースティング」という手法を実装した、非常に高速かつ高精度なPythonライブラリです。 主に、数万行を超えるような大規模な表形式データ（ExcelやCSVのようなデータ）の予測タスク（分類や回帰）で使われます。 最大の利点は、他のライブラリを圧倒する学習速度と、少ないメモリで動作する効率の良さにあります。 1. 🤔 一体LightGBMとは何？（核心的な役割と主な使用例） 核心的な役割: 賢い専門家チームを率いる、効率…

#Python#LightGBM#機械学習#データサイエンス#プログラミング初心者
盆暗の学習記録•1年前

LightGBM関連の過去記事まとめ

記事別のアクセス数を見るとLightGBM関連がやはり多いので過去に書いた記事へのリンク一覧みたいなのを置いておきます 論文について LightGBMについて 量子化学習について ライブラリについて 欠損値の扱い その他 論文について LightGBMについて nigimitama.hatenablog.jp LightGBMの論文「LightGBM: A Highly Efficient Gradient Boosting Decision Tree」について概要をまとめた記事です。 この論文内での新規性としては Gradient-based One-Side Sampling (GOSS)…

#LightGBM#機械学習
okpy•1年前

lightgbm: 高速な勾配ブースティングライブラリの完全ガイド

Python lightgbm ライブラリ完全ガイド lightgbm は、Microsoft によって開発された高速で効率的な勾配ブースティング（Gradient Boosting）ライブラリです。大規模データに対しても高い精度と処理速度を発揮し、機械学習の実務現場やコンペティションで広く使用されています。本記事では、Python による lightgbm の使い方を日本語で詳しく紹介します。 1. lightgbm の概要 勾配ブースティング決定木（GBDT）に基づく高性能アルゴリズム。 カテゴリ変数の自動処理や並列学習に対応。 sklearn API とネイティブ API の両方に対応。…

#Python lightgbm#Gradient Boosting#python library#LightGBM
すごいひまつぶし•2年前

Docker上でJupyterLabを起動し、GPUありでLightGBMを動かす方法

こんにちは！えねこのきつねです！ 今回は、機械学習の分野で人気のあるライブラリ「LightGBM」をDocker上で動かす方法についてお話しします。 ...とはいっても、Dockerの構築は最近触り始めたので細かな部分はご了承ください...💦 LightGBMは、Microsoftが開発した勾配ブースティングフレームワークで、特に大規模なデータセットに対して高速かつ高精度なモデルを提供することで知られています。GPUを活用することで、さらにそのパフォーマンスを引き出すことができます。 これから、Dockerでのセットアップ手順や、GPU対応のLightGBM環境の構築方法について説明していきま…

#機械学習#Docker#LightGBM#GPU#Jupyter Notebook#jupyter lab
盆暗の学習記録•2年前

LightGBMの量子化を試してみる

LightGBMのver. 4.0.0で登場した量子化ですが、今はLightGBMも4.3.0が出て量子化についての不具合修正もすすんで安定して動くようになってきました。 論文をベースに、「どういう計算をしているのか」という理論面の概要と、実際に動かして「どれだけ計算速度や予測精度やモデルのファイルサイズが変わるのか」を見ていきたいと思います。 個人的に特に気になっているのはモデルのファイルサイズの減少です。 量子化の概要 LightGBMのような最近のGBDTで使われている決定木では、葉の出力は誤差関数の2次のテイラー近似をもとに、以下のように計算されます（このあたりはChen & Gues…

#機械学習#LightGBM
ITエンジニア ノイのブログ•3年前

LightGBM　~回帰問題~

LightGBMとは LightGBMは、勾配ブースティングを基にしたアルゴリズムで、特徴量の重要性の計算や欠損値の取り扱いを自動的に行い、回帰および分類の問題に適用できるモデルです。LightGBMは、XGBoostを超えると言われる強力な機械学習アルゴリズムの一つです。 LightGBMの特徴 LightGBMは、高速な決定木の構築を実現するために4つの特徴があります。 Leaf-wiseアルゴリズム: LightGBMは、最も損失を下げるノードから分割を進める方法を採用しており、これにより早くモデルの精度を向上させることができます。 ヒストグラムベースのアルゴリズム: 連続値の特徴量の値…

#Python#LightGBM#回帰#ランダムフォレスト
techtekt（テックテクト） | パーソルキャリアのエンジニアブログ•3年前

LightGBM 4.0.0でpandasのnullable typesがサポートされました

データエンジニアだったりデータアナリストだったりします。 @kazasiki です。 Microsoft製の勾配ブースティングのライブラリ LightGBM の4.0.0が2023/07/14に公開されました。機能変更などを含むアップデートは約一年半ぶりだそうです。 github.com さまざまな更新が含まれますが、その中でも自分が注目したのは support for pandas nullable types という一文です。本記事ではこの変更について簡単に紹介していこうと思います。 変更内容 対応するIssueは以下です。 github.com 内容としては読んだまんまで、LightGB…

#パーソルキャリア#techtekt#データエンジニア#データアナリスト#LightGBM#pandas#nullable types
Why5•3年前

忘備録　colab LightGBM バージョン固定

最近、LightGBMが3.3.5.99へバージョンアップされてしまいOtunaが動かなくなったのを復旧するため、LightGBMのバージョンを3.3.2へバージョンダウンさせたコード。↓ !pip install lightgbm==3.3.2 --install-option=--gpu最新版のlightGBMのGPU版をインストールするコード。↓ !git clone --recursive https://github.com/Microsoft/LightGBM %cd /content/LightGBM/ !mkdir build !cmake -DUSE_GPU=1 #avoid…

#colaboratory#LightGBM