Hatena Blog Tags
はてなブログ トップ
Self-supervised Learning
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Self-supervised Learning

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
AIうぉ－－！(ai-wo-katsuyo-shitai !)•2年前

『Self-Supervised Learning Vs Semi-Supervised Learning: How They Differ』って記事がすばらしい。

この記事 たまに、両方とも、SSLと書かれることが稀にあるし。。。 このすばらしいところ1 この記事のまとめの部分を引用 この記事 analyticsindiamag.com たまに、両方とも、SSLと書かれることが稀にあるし。。。 このすばらしいところ1 以下の引用？（リンク） I Now call it "self-supervised learning", because "unsupervised" is both a loaded and confusing term.In self-supervised learning, the system learns to predict …

#Semi-Supervised Learning

関連ブログ

Morpho Tech Blog•2年前

Contrastive Learningの最新動向のレビュー

こんにちは。CTO室リサーチャーの鈴木です。今回は、深層学習の分野でここ数年盛り上がっているContrastive Learning系の手法について、主だった論文を系統的にまとめて紹介したいと思います。 はじめに 近年発展した自己教師あり学習（Self-Supervised Learning：SSL）は、アノテーション情報を人の手ではなく機械的に付与することで、データセットの構築にかかる時間やコストを軽減し、深層学習モデルの精度向上を目指した手法です。自然言語処理分野におけるSSLは大きな成功を収め、ChatGPT等の超高性能なチャットボットの出現にも影響を与えました。 SSLは主に深層学習モ…

#Deep learning#Contrastive learning#Self-supervised Learning#SSL#SimCLR#BYOL#SimSiam
AIうぉ－－！(ai-wo-katsuyo-shitai !)•2年前

BERTは、『自己教師あり学習』か？

BERTは、『自己教師あり学習』か？ 回答 BERTの論文では コメント BERTは、『自己教師あり学習』か？ BERTは、『自己教師あり学習』(じこきょうしありがくしゅう、英: self-supervised learning、SSL）か？ 回答 たぶん、そうだと思いますが。。。。 BERTの論文では https://arxiv.org/pdf/1810.04805.pdf Devlin, Jacob, et al. "Bert: Pre-training of deep bidirectional transformers for language understanding." arXi…

#BERT
AIうぉ－－！(ai-wo-katsuyo-shitai !)•2年前

『自己教師あり学習』について頭を整理したければ、このサーベイ論文を見るべし

『自己教師あり学習』について頭を整理したければ、このサーベイ論文を見るべし このサーベイ論文 上記は、この記事の受け売りです コメント 『自己教師あり学習』について頭を整理したければ、このサーベイ論文を見るべし このサーベイ論文 https://arxiv.org/pdf/2006.08218.pdf Liu, Xiao, et al. "Self-supervised learning: Generative or contrastive." IEEE Transactions on Knowledge and Data Engineering 35.1 (2021): 857-876. 上…

#自己教師あり学習#Self-supervised Learning#Self-supervised
マシンラーニングマシマシ•3ヶ月前

TIP: Tabular-Image Pre-training for Multimodal Classification with Incomplete Data

Links 元論文：https://arxiv.org/pdf/2407.07582 github: github.com Abstract この論文ではマルチモーダルな学習手法、特に画像とテーブル形式のデータを用いた学習手法について提案しています。 Introduction これまでに画像とテキストなどを組み合わせたAIモデル（ex. CLIP）が数多く提案されている一方でテーブルデータと画像とを組み合わせたモデルについては研究が未発展な状況にありました。近年ではテーブルデータの利活用の機運も高まってきているため、画像とテーブルデータの両方を効果的に活用できるようなマルチモーダルな学習手法へ…

水たまり•3ヶ月前

探索フェーズ

最近、ややモチベーションが落ち気味なのもあって、具体的な作業をやる道筋も立たず、ぼんやりと方向性を考えるようなことに時間を使っている。いくらか本などを読んだのでそれに触れながら文章として書き残す。 哲学探求（鬼界彰夫訳） 言語モデルとか、言語と意図の関係についてできるだけ根本の方から基盤を得たいと思ったので読んだ。まぁあまりよくわからなかった。 第一部 199 : 一人の人間が人生で一度だけ規則に従うということは上手く考えられないというところから慣習を重視する立場に説得力を感じる。これはもちろん、「規則」という言葉がそう使われざるを得ないという理解で良いということか？ そして、言葉を超えた「規…