Kaggle

📝 この記事のまとめ -内容：特徴量の一つとしてクラスタリングを試してみた-結論：クラスタリングも含めデータ前処理に効果はあるが、モデル選択のほうが性能に対する影響が大きいことが判った 📝 この記事のまとめ 🎯 今回の目標 📍 現在地と今回の壁 💬 Copilotさんとの会話ログ まずはクラスタリング分析の進め方について相談 Step 1：クラスタリング用の前処理を決める Step 2：クラスタ数の決め方（silhouette / inertia） Step 3：実際に KMeans / GMM を回してクラスタリングを実行 Step 4：クラスタごとの churn 率を可視化 Step 5：…

📝 この記事のまとめ -内容：特徴量を作って試してみた-結論：あまり性能向上しなかったが雰囲気は分かった気になれた①予め変数を組み合わせて特徴量を作ることでモデルの学習を助ける②単純な組み合わせは膨大な数になる。目的変数に直接影響があるものはモデルが自動で適切に処理するので効果が小さい。これらの制約があるので工夫して特徴量を作る必要がある 🎯 今回の目標 今回は引き続き下のコンペに参加して、特徴量エンジニアリングについて試しながら理解してみたいと思います！ www.kaggle.com 📍 現在地と今回の壁 - KaggleのPlaygroundシリーズコンペ"Predict Customer…

はじめに 今回は、テーブルデータの予測タスクを言語モデルで行う Tabula-8B を試してみました。 テーブルデータの予測といえば XGBoost や LightGBM などの勾配ブースティング手法が一般的ですが、Tabula-8B はテーブルデータの推論に特化して学習された言語モデルを使って予測を行います。 arxiv.org Tabula-8Bとは Tabula-8Bは、テーブルデータを入力とし、各種推論タスクを解くことを目的とした言語モデルです。データフレームの行情報を自然言語のテキストとしてシリアライズ(直列化)してモデルに与えることで、目的変数の予測を行います。 入力データの構造、…

📝 この記事のまとめ -内容：影響な大きな変数の値でモデルを分けてみた。（例：MonthlyChargesが月払いと1年払いでは、それぞれにデータを分けて別のモデルを作って学習させる。2年払いはそもそも離脱率1%未満なので学習に利用せず、提出ファイルの該当行には直接0を埋める） -結論： 意図に反して性能は向上しなかった ①データを削る（強制的に0埋め）は顕著な性能ダウン ②データを分けるのは性能は変わらず、計算時間は９割程度に減少 🎯 今回の目標 今回はデータ理解の結果をどのようにモデルに反映させ、性能を向上させるかを探っていきます！ www.kaggle.com 📍 現在地と今回の壁 - …

概要 次の関西Kaggler会(関西Kaggler会 交流会 in Osaka 2026#1)までに資料を総ざらいしたくて自分用に一覧を作成しました。 これらの資料は基本的に関東Kaggler会の connpass のページ、関西Kaggler会の web ページから引っ張ってきたので、未発見の資料とかを見つけたわけではないです(多分)。 こんな発表あったんだな～って眺める用と思って頂ければ幸いです🙏

📝 この記事のまとめ -内容： Kaggleコンペのモデル（アルゴリズム）選択についてあれこれ質問 -結論： モデル選択の概要は掴めた。次はデータ理解に進む！ 🎯 今回の目標 今回は、Copilotさんとコンペのモデル選択についてあれこれ質問して疑問を解消する！ www.kaggle.com - モデル選択周りのやり残し - 次回のためのプロンプト整理 - 各モデルの特徴について- 各モデルの性能差について- Topとの性能差について これらの質問をCopilotさんに聞いてみる。 📍 現在地と今回の壁 - AIと協力しての参加はこのコンペが初❗ - CatBoostとLightGBMとXGB…

📝 この記事のまとめ -内容： CopilotさんとKaggleコンペのモデル（アルゴリズム）を選択する -結論： モデルはCatBoostとLightGBMとXGBoostのアンサンブル（ハイブリッド）で初心者向けコンペ上位20%到達！ 🎯 今回の目標 今回も、Copilotさんと協力しながらモデルを改良して、このコンペで順位を上げることを目指します！ 上位50%以内が目標！ www.kaggle.com - 前回モデルの疑問点を踏まえてAIと改良方針の相談 - 単独モデルの性能確認 - アンサンブル（複数モデルのハイブリッド）モデルの生成 - Kaggleに提出してスコアを確認 この一連の…