Hatena Blog Tags
はてなブログ トップ
Support Vector Machine
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Support Vector Machine

(コンピュータ)
【さぽーとべくたーましん】

最近，流行っている学習機械の一つ
サポートベクターマシン

ベイズ分類と同じように，正当とスパムそれぞれのメールのサンプルを集める。一つのメールを単語の集合から成るベクトルとしてとらえ，ベクトル空間上にマッピングする。このとき，空間上のどこで両者を切り分けるかを判断するために使われるのがSupport Vector Machine（SVM）である。SVMでは，二つの空間に属するそれぞれの事例のうち最も近いものを取り出し，その両者からの距離が最も大きくなるように境界線を引く。
（出典：日経BP IT Pro）


SVMの基本アイデアは上記のような線形分離 *1 である。しかし近年SVMは、カーネル法による拡張で非線形分離問題も効率的に解ける事が判り、大きな注目を集めている。具体的にはデータを非線形写像 Φ で高次元特徴空間に写像し分離超平面で線形分離する、という方法である。
ただしこの種の非線形写像 Φ の形を直接求めるのは困難なため、代わりに目的関数や識別関数の計算に必要な カーネル関数 K(x1,x2)＝Φ(x1)T Φ(x2) の形を決め、カーネル計算だけで分類を行う。これをカーネルトリックという。
(高次元の困難な計算を、数学的手法で低次元のより容易な計算に変換するという意味で、Latent Semantic Indexing (LSI法)の特異値分解と似たような印象を受けるかもしれない。ちなみにLSI法と等価なPCA(主成分分析)は、SVM同様カーネル法で拡張し非線形問題に適用する事ができる。)

*1:グラフ上の点の間にマージン最大となる境界線(二次元の場合：直線、三次元の場合：平面)を置いて分類する方法

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
動かざることバグの如し•2ヶ月前

Pythonで話者分類を行ってみた

環境 Python 3.10 やりたいこと すでに分類されている話者の複数wave形式の音声ファイルを学習し、未知の音声ファイルを渡したときにどれが一番近いかを推論してほしい。 いわゆる話者分類ってやつ。 ライブラリインストール このプロジェクトでは、音声ファイルの話者を識別するためにpyannote.audio、scikit-learn、librosaといったライブラリを使用する。これらのライブラリは以下のコマンドでインストールできる。 pip install pyannote.audio==3.3.1 scikit-learn==1.5.1 librosa==0.10.2.post1 コー…

ネットで話題

もっと見る
270ブックマークSupport Vector Machine最近よく巷で耳にするモノ． SVM， Support Vector Machine， さぽーとべくたーましん． これっていったい，どんなもんなんでしょう． なにやら便利そうなモノらしいので，ちょいと調べて要点をまとめてみようかな，なんて． でも，ただまとめただけだとそのへんの記事を読むのとなんにも変わらないので， コーディング...www.neuro.sfc.keio.ac.jp
61ブックマークSupport Vector Machine人間には卓越した学習能力が備わっている．人間は目で見たり，耳で聞いたものが何であるかをいとも簡単に認識できる．また，未知の環境に適応する能力も優れている．それに対し，コンピュータは，与えられた指示（プログラム）どおりに高速に計算を行う能力においては優れているが，学習能力という点においては，人間と...arx.ee.utsunomiya-u.ac.jp
55ブックマークR言語でSVM(Support Vector Machine)による分類学習 - Y's noteyut.hatenablog.com
51ブックマークSVM-Light: Support Vector MachineSVMlight Support Vector Machine Author: Thorsten Joachims <thorsten@joachims.org> Cornell University Department of Computer Science Developed at: University of Dortmund, Informatik, AI-Unit Collaborative Research Center on 'Complexity Reduction in Multivariate Data' (SFB475) Version: 6.02 Date: 1...svmlight.joachims.org
30ブックマークサポートベクターマシン(support vector machine:SVM)の基礎 - HELLO CYBERNETICS線形識別器の代表格としてサポートベクターマシンを取り上げます。 機械学習で一躍有名となった手法の1つで、ディープラーニングが流行る以前は「え、まだニューラルネットやっているの？時代はサポートベクターマシンでしょ」と言った雰囲気でした。今はなぜか逆転して「まだサポートベクターマシンやってるの？」と言...www.hellocybernetics.tech
24ブックマークSupport Vector Machine人間には卓越した学習能力が備わっている．人間は目で見たり，耳で聞いたものが何であるかをいとも簡単に認識できる．また，未知の環境に適応する能力も優れている．それに対し，コンピュータは，与えられた指示（プログラム）どおりに高速に計算を行う能力においては優れているが，学習能力という点においては，人間と...arx.ee.utsunomiya-u.ac.jp
16ブックマークSupport vector machine - Wikipediaen.wikipedia.org
14ブックマークMomma's Wiki: SupportVectorMachine/SVMlight - 手軽に試せるSupport Vector Machine SVM-Ligh...svm_learn svm_learn [options] example_file model_file で学習する。 example_fileは後で説明する書式に従って記述したテキストファイルで、model_fileは学習結果を収めるファイルでsvm_learnが作るものなので適当な名前を指定するだけで良い。 つまりmodel_fileを保存しておけば学習状態を独立して管理できる。 オプ...www.eml.ele.cst.nihon-u.ac.jp
14ブックマークopencv.jp - OpenCV: サポートベクターマシン（Support Vector Machine）サンプルコード -作成者: 怡土順一, 最終変更者: 怡土順一, 最終変更リビジョン: 357, 最終変更日時: 2007-12-26 14:22:07 +0900 (水, 26 12月 2007) ■ サポートベクターマシン OpenCV-1.0.0で提供されるSVMに関する関数は，libsvmライブラリ（version 2.6）の機能を実装したものである． また，このバージョンでは，学習後のパラメータ...opencv.jp

関連ブログ

yoko's memo•3ヶ月前

初心者向け機械学習アルゴリズム解説

機械学習は、コンピュータがデータから学び、予測や意思決定を行う技術です。この記事では、初心者向けに基本的な機械学習アルゴリズムを解説します。これらのアルゴリズムは、機械学習の基礎を理解するために役立ちます。 moun45.hatenablog.com 1. 線形回帰（Linear Regression） 概要 線形回帰は、連続値を予測するためのアルゴリズムです。入力変数と出力変数の関係を線形モデルで表現します。最も基本的な回帰分析の一つで、予測値は直線上にあります。 使用例 住宅価格の予測 売上予測 実装例（Python） from sklearn.linear_model import Li…

hwakのトリビアルな雑記集•4ヶ月前

Re:ゼロから始める量子多クラス分類

この記事は、量子サポートベクターマシーンを利用して、MNISTから配布されているデータベースの分類を行う方法をある程度略して説明するものです。変分量子計算の方法論は、機械学習における分類問題にも応用されています。その1つがQuantum Support Vector Machine(QSVM)です[1]。これはクラス分類問題において、評価関数に現れるカーネルを量子状態の内積で代用して、それを解くというものです。この方法において、過学習が抑えられるということが報告されています。本来ならば、実装してデータを採りたいところですが、手書き文字の認識分類をさせるだけでも画像を取り込んだ上に数字とアルファ…

なんかいろいろストックするとこ•5ヶ月前

2024/04/13 PubMedの新着論文の要約(ADHD)

- 米国の子どもの10人に1人以上がADHDで診断されている Antipsychotic prescribing in children and adolescents in Ireland タイトル: 22q11.2欠失症候群および関連する精神病の強固かつ再現可能な機能的脳シグネチャー：深層ニューラルネットワークに基づくマルチコホート研究。 Behavior problems, social relationships, and adolescents' future Cortico-striatal differences in the epigenome in タイトル：ADHDを研究す…

Pythonを勉強してみる人の日記•7ヶ月前

Python9日目　手書き数字の予想プログラムを解読する難解な回。

こんばんは！金曜日です、お勉強し放題で嬉しい… Python9日目、始めていきます。 昨日書いたコードの解読からです。 昨日の内容は 太いペンで「2」を書いて画像を保存 ↓ 画像データを読み込んで、0（白）～16（黒）の数字が8×8に並んだ配列に変換する ↓ 変換したデータを使って何の数字を書いたのか当てさせる というモノでした。 1行目から解読していきます。 ・ファイルを開く：open(変数名) ・モノクロにする：convert("L") ・サイズを8×8ピクセルにする：resize(8,8) までは分かりました。 次から早速全然分かりません。 急に難解 numpy.asarray(・・・)…

一生旅行生活してえ•8ヶ月前

G検定用語整理

G検定を受けるにあたり、用語を整理する。自分の学習用である。 あ～ アンサンブル学習 バギング ブースティング スタッキング オートエンコーダ 変分オートエンコーダ（VAE） オントロジー か～ カーネルトリック 画像セグメンテーション セマンティックセグメンテーション インスタンスセグメンテーション パノプティックセグメンテーション 機械学習 教師あり学習 分類 回帰 教師なし学習 強化学習 エージェント 環境 状態 行動 報酬 Q学習 Sarsa モンテカルロ法 クラスタリング 階層クラスタリング 非階層クラスタリング ハードなクラスタリング ソフトなクラスタリング 交差検証 ホールド・ア…

洋食の日記•9ヶ月前

Rumale::SVMにClustered SVMによる分類器を追加した

はじめに Clustered Support Vector Machine（CSVM）は、データをクラスタリングし、各クラスターごとに線形SVMを学習することで、非線形な分類器を実現する手法である。また、Rumale::SVMは、Rubyの機械学習ライブラリであるRumaleと同様のインターフェースで、様々なSVMアルゴリズムを利用できるGemである。このRumale::SVMに、CSVMを実装した。 Gu, Q., and Han, J., "Clustered Support Vector Machines," In Proc. AISTATS'13, pp. 307--315, 2013…

洋食の日記•9ヶ月前

Rumale::SVMにRandom Recursive SVMによる分類器を追加した

はじめに Random Recursive Support Vector Machine（R2SVM）は、ランダム射影による特徴変換を繰り返すことで、線形SVMで非線形な分類器を実現する手法である。また、Rumale::SVMは、Rubyの機械学習ライブラリであるRumaleと同様のインターフェースで、様々なSVMアルゴリズムを利用できるGemである。このRumale::SVMに、R2SVMを実装した。 Vinyals, O., Jia, Y., Deng, L., and Darrell, T., "Learning with Recursive Perceptual Representat…

洋食の日記•10ヶ月前

Rumale::SVMにLocally Linear SVMによる分類器を追加した

はじめに Locally Linear Support Vector Machine（LL-SVM）は、多様体学習の考え方を利用して、線形SVMで非線形分類器を実現する手法である。Rumale::SVMは、Rubyの機械学習ライブラリであるRumaleと同様のインターフェースで、LIBLINEARやLIBSVMで実装されているSVMアルゴリズムによる分類器や回帰を利用できるものである。LIBLINEARやLIBSVMにアップデートがないと、Rumale::SVMもアップデートする機会がないのだが、SVM全般のgemと拡大解釈して、LL-SVMを実装してみることにした。 Ladicky, L.,…

ITエンジニア ノイのブログ•1年前

SVM（サポートベクターマシーン）

SVM（サポートベクターマシーン）とは？ SVMは「Support Vector Machine（サポート ベクター マシーン）」の略で、教師あり学習の機械学習アルゴリズムの一つです。 このアルゴリズムは特に認識性能に優れており、画像のパターン認識などによく使用されます。 SVMの歴史 1963年にウラジミール・ヴァプニクが発表したものが、1992年に非線形分類問題にも対応できるように拡張され、近年さらに注目されています。 SVMの基本的な流れ データの集合体を2つのグループに分類するための境界を決定します。 この境界は、既に正解が判明しているデータを基にして決められます。 境界の位置は「マー…