Hatena Blog Tags
はてなブログ トップ
NeurIPS
このタグでブログを書く

NeurIPS

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
AnyTech Engineer Blog•2ヶ月前

NeurIPS 2022 参加報告

はじめに AntTechの立浪です。AnyTechでは深層学習とその周辺領域を担当してきます。 日が経ってしまいましたが、去年の12月に開催された機械学習分野の著名な国際会議 Neural Information Processing Systems (通称: NeurIPS) に参加してきました。開催場所はアメリカのニューオリンズというジャズで有名な街でした。この記事では、まずはニューオリンズの紹介、そして会議全体傾向や雰囲気、最後に気になった発表について数本触れようかと思います。私自身詳しくない領域も含まれおりますので、誤りも含まれているかもしれません。興味を持たれたら是非とも原著を読んで…

#機械学習#NeurIPS

ネットで話題

もっと見る
131ブックマーク【エッジAI】MITがまた何かすごいのを作ったようです。有名AI学会のNeurIPSで発表した内容を解説（コード・動画あり） | アイブンaiboom.net
40ブックマーク【NeurIPS2022】過去17年間の機械学習・AI研究のトレンドを調査してみた - ENGINEERING BLOG ドコモ開発者ブログnttdocomo-developers.jp
31ブックマーク【お知らせ】AIトレンド・トップカンファレンス報告（NeurIPS2019）の無料オンライン公開について – 人工知能学会 (The Japanese Society for Artificial Intelligence)AIトレンド・トップカンファレンス報告（NeurIPS2019）の無料オンライン公開について 人工知能学会　企画委員会 全体概要 人工知能に関する最新の研究開発動向をお届けすべく、AIトップカンファレンス報告会を継続的に開催してきました。今回、NeurIPS 2019 (Thirty-third Conference on Neural Information Processing ...www.ai-gakkai.or.jp
27ブックマークNeural networks for Graph Data NeurIPS2018読み会@PFNwww.slideshare.net
24ブックマークTrends in Natural Language Processing at NeurIPS 2019.speakerdeck.com
20ブックマークAutoML in NeurIPS 2018www.slideshare.net
17ブックマーク第76回人工知能セミナー登壇資料（NeurIPS2018/AAAI2019報告会）speakerdeck.com
17ブックマークNeurIPS 2023NeurIPS Thirty-seventh Annual Conference on Neural Information Processing Systems NeurIPS 2023 will be held again at the at the New Orleans Convention Center. The conference format is still under consideration.nips.cc
17ブックマークNeurIPS2018読み会@PFN 聴講メモ(テーマ発表) - 俵言tawara.hatenablog.com

関連ブログ

fltech - 富士通研究所の技術ブログ•4ヶ月前

NeurIPS2022にて「決定木の羅生門集合構築技術」について発表します

こんにちは．人工知能研究所 発見数理PJの高木です．富士通研究所では「AIを用いた知識発見」に関する研究開発を行っています．このたび，デューク大学のInterpretable Machine Learning Lab （解釈可能機械学習研究室）との共同研究成果である「決定木の羅生門集合構築技術」が機械学習の主要な国際会議であるNeurIPS2022に採択されたので，その内容を紹介します． 対象論文 タイトル： Exploring the Whole Rashomon Set of Sparse Decision Trees (Rui Xin, Chudi Zhong, Zhi Chen, Ta…

#テックブログ#NeurIPS#論文解説#機械学習
fltech - 富士通研究所の技術ブログ•4ヶ月前

NeurIPS2022にて「最適化が困難な指標のためのコスト考慮型自己訓練学習手法」について発表します

こんにちは．人工知能研究所 自律学習PJの竹森です．富士通研究所では「自律的に学習可能なAI技術」に関する研究開発を行っています．このたび，インド理科大学院との共同研究で得られた「最適化が困難な指標のためのコスト考慮型自己訓練学習」に関する研究論文が，機械学習の主要な国際会議であるNeurIPS2022に採択されたので，その内容を紹介します． 対象論文 タイトル： Cost-Sensitive Self-Training for Optimizing Non-Decomposable Metrics (Harsh Rangwani, Shrinivas Ramasubramanian, Sho…

#テックブログ#NeurIPS#論文解説#機械学習
RareJob Tech Blog•1年前

NeurIPS2021 outstanding paperのMAUVEを解説

1. はじめに 明けましておめでとうございます。 冬休みに実家に帰省したら記録的な大雪で20cmの積雪を見れて少し嬉しかった、EdTech Labの水谷です。 昨年末の12月はNeurIPS2021がありましたが、その中でoutstanding paperの1つに選ばれたMAUVE: Measuring the Gap Between Neural Text and Human Text using Divergence Frontiersを解説したいと思います。 現在レアジョブでは言語生成モデルは運用していませんが、今後言語生成モデルを扱う際にはその評価の一つとして使える方法なのではと思って…

#NeurIPS#NLP
fltech - 富士通研究所の技術ブログ•1年前

系統的汎化（systematic generalization）に関する研究成果をNeurIPS 2021で発表します

English version こんにちは．人工知能研究所 自律学習プロジェクトの佐々木智丈です．富士通研究所では「自律的に学習可能なAI」の実現を目指しており，この目標に向けてマサチューセッツ工科大学（MIT）およびCenter for Brains, Minds and Machines（CBMM）の研究者と2019年から共同研究を行っています．この共同研究のうち，Vanessa D'Amarioさん， Xavier Boixさんと行った研究の成果を現在開催中のNeurIPS 2021で発表するので，その概要を紹介します． 対象論文 - タイトル：How Modular Should Ne…

#machine learning#NeurIPS#論文解説
fltech - 富士通研究所の技術ブログ•2年前

NeurIPS2020 のワークショップで発表しました

こんにちは．富士通研究所人工知能研究所の梶谷まり・池祐一・小林健です． 富士通研究所では「データの幾何学的形状」をとらえる位相的データ解析 (トポロジカルデータアナリシス; TDA) を用いて時系列データを分析する機械学習技術の研究開発に取り組んでいます． 今回は， NeurIPS2020 に併設された位相的データ解析に関するワークショップ Topological Data Analysis and Beyond (2020年12月11日開催) に参加し，ポスター発表を行ったので報告します．

#AI#TDA#NeurIPS
NTT Communications Engineers' Blog•1ヶ月前

コンピュータビジョン分野のトップカンファレンスであるECCV2022の論文紹介（後編）

目次 目次 はじめに ECCV2022のトラッキング論文 ピックアップした論文 Towards Grand Unification of Object Tracking Tracking Objects As Pixel-Wise Distributions Particle Video Revisited: Tracking through Occlusions Using Point Trajectories XMem: Long-Term Video Object Segmentation with an Atkinson-Shiffrin Memory Model 最後に はじめに こ…

Insight Edge Tech Blog•1ヶ月前

Physics-Informed Neural Networks (PINNs)を減衰振動の運動方程式に適用してみた！

こんにちは！Insight EdgeのData Scientistの石倉です。私は以前、地球物理学を専攻していて偏微分方程式を扱っていたのですが、最近NeurIPSやその他学会などで見られるPhysics-informed neural networks（以下、PINNs）の"Physics"に思わずアンテナが反応してしまい、色々と文献を調査してみました。そこで今回は、簡単に解析解の分かる微分方程式を用いてPINNsをTensorflowで実装してみたのでご紹介したいと思います！ Physics-informed neural networks とは 減衰振動 微分方程式 Finite dif…

オムライスの備忘録•1ヶ月前

【深層学習】Chinchilla

Index Index Chinchilla 計算コストの削減 参考 参考 Chinchilla Chinchilla 700億のパラメーターを持つLLM. Transformer #まとめ編 yhayato1320.hatenablog.com 計算コストの削減 言語モデルの「パラメーターのサイズ」と「トレーニングに使用されるデータ量」のバランスを見直して効率化. 幅広い個別評価タスクで、Chinchillaよりも多くのパラメーターを持つGPT-3、Gopher及びMT-NLGの性能を上回った. 参考 Training Compute-Optimal Large Language Model…

オムライスの備忘録•1ヶ月前

【深層学習】Alignment / 協調性

Index Index Alignment / 協調性 Instruct GPT 参考 Alignment / 協調性 LLM は、様々なタスクに適応する能力を有している一方、生成される文章の品質や正確さは最適とは言えない. LLM yhayato1320.hatenablog.com そこで、LLM の「Alignment / 協調性」という概念がある. ユーザの指示を汲み取って適切な返答をするだけではなく、「社会通年に反しない」のような要求も含まれる. Instruct GPT Instruct GPT は、GPT-3 をベースにしたモデル. Instruct GPT yhayato132…

オムライスの備忘録•2ヶ月前

【深層学習】コンテキスト内学習 / In Context Learning / ICL

Index Index コンテキスト内学習 / In Context Learning プロンプト 改善手法 Chain-of-Thought / CoT / 2022 Zero-shot-CoT / 2022 semantically-unrelated label ICL / SUL-ICL / 2023 研究 参考 Web サイト コンテキスト内学習 / In Context Learning 推論時に与えるプロンプト (テキスト) を入力として、タスクを学習する. プロンプト 例えば、「りんごが12 個あります。2 個を食べ、4 個をアップルパイに使いました。 残りは何個あるでしょうか…

オムライスの備忘録•2ヶ月前

【深層学習】平坦解 / Flat Minima

Index Index 平坦解 / Flat Minima 参考 Webサイト 平坦解 / Flat Minima 深層学習がうまくいく理由を説明する仮説のひとつ. 深層学習 #まとめ編 yhayato1320.hatenablog.com パラメータ空間で損失関数がとる曲面を考えたときに、「周辺が平坦な解」の汎化誤差は小さいという考え. 参考 Blessing of Nonconvexity in Deep Linear Models: Depth Flattens the Optimization Landscape Around the True Solution [2022] arxi…

オムライスの備忘録•2ヶ月前

【深層学習】Scaling Law / スケーリング則

Index Index Scaling Law / スケーリング則 参考 Webサイト Scaling Law / スケーリング則 深層学習の学習済みモデルの精度についての研究. 深層学習 #まとめ編 yhayato1320.hatenablog.com 性能は、「訓練ステップ数」、「データセットサイズ」、「パラメータ数」の 3 変数の冪乗に比例するという経験則. 参考 Beyond neural scaling laws: beating power law scaling via data pruning [2022] v5 arxiv.org Revisiting Neural Scal…

オムライスの備忘録•2ヶ月前

【深層学習】Grokking

Index Index Grokking 参考 Webサイト Grokking 深層学習における解明中の現象のひとつに Grokking (「腑に落ちる」) がある. 深層学習 #まとめ編 yhayato1320.hatenablog.com 過学習して、しばらく経ってから、急に汎化誤差が降り始める現象. 参考 Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets [2022] arxiv.org Towards Understanding Grokking: An Effective Theory …

オムライスの備忘録•2ヶ月前

【深層学習】Diffusion-LM

Index Index Diffusion-LM Plug and Play 参考 Web サイト Diffusion-LM 画像生成で利用される Diffusion Model を文章生成に応用. Diffusion Model #まとめ編 yhayato1320.hatenablog.com 文章生成 yhayato1320.hatenablog.com Fine-Tuning せずに、Pre-Training された言語モデル (Language Model / LM) をそのまま利用する. Fine-Tuning / Pre-Training yhayato1320.hatenablo…

オムライスの備忘録•2ヶ月前

【深層学習】CLIPDraw

Index Index CLIPDraw Architecture Synthesis Though Optimization 参考 Web サイト CLIPDraw テキストを入力として画像を生成する Text-to-Image のタスク. Text-to-Image yhayato1320.hatenablog.com CLIP を利用したアルゴリズム. CLIP #まとめ編 yhayato1320.hatenablog.com Architecture Synthesis Though Optimization 「テキスト」と「ランダムに生成した画像」に対する誤差を逆伝播させながら 生成…

オムライスの備忘録•2ヶ月前

【深層学習】FRePo

Index Index FRePo Dataset Distillation / データセット蒸留 Algorithm 対応1 対応2 参考 Web サイト FRePo Dataset Distillation の手法のひとつ. Dataset Distillation #まとめ編 yhayato1320.hatenablog.com Dataset Distillation / データセット蒸留 Dataset Distillation / データセット蒸留は、オリジナルとなる大規模なデータセットから 上手に、必要な情報のみを抽出した少量のデータセットを生成する. そして、その生成したデータ…