ChatGPTの練習でSVMのカーネルを調べたので記録しておく ChatGPTの回答はコードや説明文は誰かの著作権に抵触する可能性がある 調べものとして利用価値は高いが、回答をまるまる転用せず、自分の言葉、コードで残すことが肝要です カーネルとは サポートベクターマシンは2つのデータ点間の類似性をカーネルで計算して、最もよく分離する境界線を見つける手法。 このカーネルはこの2つのデータ点間の類似性をベクトルの内積を利用して計算する。 このとき、内積が小さいと2つのデータ点の類似度は低く、お互いが遠い。逆に内積が大きいと、類似度は高く、お互いが近い、と判断する。 カーネルはいくつか種類がある。多…

こんにちは！こーたろーです。 ちょっとブログにつかれてきたので、基礎トレーニングも混ぜながらやっていきます。 1年前に少しやりましたが、今回は別のモデルでやってみます。 手書き文字識別をSVM（サポートベクターマシン）を使ってやってみます。 学生の練習にはうってつけですね。 データのロード データの前処理 モデルの作成と学習、評価

今回はサポートベクターマシーンを試してみる。 Pythonでの実装コード SASでの実装コード SASでお試し（対象データ、データ加工） SASでお試し（モデル作成） SASでお試し（モデル評価） 参考 Pythonでの実装コード Pythonで簡単に実装できる。 #-- 線形SVM from sklearn.svm import LinearSVC mod1 = LinearSVC(C=1, random_state=999) mod1.fit(X_train, y_train) y_pred1 = mod1.predict(X_test) #-- 非線形SVM from sklearn.s…

SVM（サポートベクターマシーン）についてのメモ。 SVM（サポートベクターマシーン）とは 線形SVM（ハードマージン法とソフトマージン法） 主問題と双対問題 Pythonによる実行 非線形SVM（カーネルトリック） Pythonによる実行 Wineデータで実行 参考 SVM（サポートベクターマシーン）とは SVMは「マージン最大化」の考えに基づいて分類する手法である。 n次元空間に超平面（線形識別関数、二次元なら直線）で分類境界を作ることでベクトルを分離する。 （マージンが大きいほど、未知データでの識別誤りが起こりにくいだろうという理屈でマージン最大化する）。 手法としては、線形分離可能を仮…