BERT の 事前学習モデル を 事前にダウンロードしておく

$ git-lfs clone https://huggingface.co/bert-base-uncased # 日本語の場合 $ git-lfs clone https://huggingface.co/tohoku-nlp/bert-base-japanese-v3 参考ページ qiita.comqiita.com

WSL 割当てるメモリサイズを増やす

Python プログラムが Kill されたので メモリサイズを増やす デフォルトでは 物理メモリの半分だった C:\Users\hoge\.wslconfig [wsl2] memory=56GB swap=0$ free -h total used free shared buff/cache available Mem: 54Gi 519Mi 53Gi 3.0Mi 549Mi 53Gi Sw…

WSL ホスト名の設定

$ sudo vi /etc/wsl.conf [network] hostname = WSL

Docker で 任意のPythonバージョンの環境を作る

Dockerfileの作成 $ vi Dockerfile # python バージョン:3.7.6 FROM python:3.7.6 # 作業ディレクトリ WORKDIR /code # 作業ディレクトリをコンテナにコピー COPY ./code /code # pip アップグレード RUN pip install --upgrade pip # requirements.txt はコ…

Docker コマンド

イメージの一覧 $ docker images REPOSITORY TAG IMAGE ID CREATED SIZE nvcr.io/nvidia/pytorch 24.02-py3 91fc76da3ebc 3 weeks ago 22.2GB hello-world latest d2c94e258dcb 10 months ago 13.3kB nvcr.io/nvidia/pytorch 22.04-py3 6884f16521ea 22 mont…

WSL コマンド

インストールされているディストリビューション wsl -l -vディストリビューションの削除 wsl --unregister Ubuntu-22.04インストールできるディストリビューション wsl --list --onlineディストリビューションを指定してインストール wsl --install -d Ubunt…

開発環境構築 #2 Docker インストール

Ubuntu のアップデート $ sudo apt-get update Get:1 http://security.ubuntu.com/ubuntu jammy-security InRelease [110 kB] Hit:2 http://archive.ubuntu.com/ubuntu jammy InRelease ... Reading package lists... Done 前提パッケージをインストール $ s…

開発環境構築 #3 Docker で PyTorch

NVIDIA Container Toolkit をインストールする docs.nvidia.com $ curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \ && curl -s -L https://nvidia.gi…

WSL Ubuntu22.04 に CUDA Toolkit をインストールする #2

CUDA Toolkit PyTorch 対応できるのが CUDA12.1 らしいのでこのバージョンをインストールする PyTorch CUDA 対応表 Download Installer for Linux WSL-Ubuntu 2.0 x86_64 https://developer.nvidia.com/cuda-12-1-1-download-archive?target_os=Linux&target…

開発環境構築 #1 WSL で Ubuntu を Ubuntu-20.04 → Ubuntu-22.04 にした メモ (Windows10)

WSL自体のアップデート > wsl --update インストール中: Linux 用 Windows サブシステム Linux 用 Windows サブシステム はインストールされました。 > wsl --version WSL バージョン: 2.0.9.0 カーネル バージョン: 5.15.133.1-1 WSLg バージョン: 1.0.59 M…

久々にWSLさわったらいろいろ忘れていたのでメモ

WSLの起動 DOS窓から > wsl ssh の起動 > sudo /etc/init.d/ssh start ssh でリモートログインするときは 172.23.77.118等の仮想インタフェイスの方にアクセス Docker の起動 > sudo service docker start

東証33業種を景気敏感株かディフェンシブ株に分類してみた

いろいろな考えがあると思いますが、作ってみたので公開します 17業種コード 17業種コード名 33業種コード 33業種コード名 景気敏感株/ディフェンシブ株 1 食品 50 水産・農林業 ディフェンシブ株 1 食品 3050 食料品 ディフェンシブ株 2 エネルギー資源 10…

ImportError: Pandas requires version '3.0.0' or newer of 'jinja2' (version '2.11.2' currently installed). でやったこと

ImportError: Pandas requires version '3.0.0' or newer of 'jinja2' (version '2.11.2' currently installed). これで対応できた github.com pip3 install --upgrade setuptools pip pip3 uninstall jinja2 tornado pip3 install --upgrade notebook jupyt…

HandBrakeCLI.exe のダウンロードはここから コマンドライン Command Line HandBrake

handbrake.fr

時系列データ ロングフォーマットからワイドフォーマットの変換 マルチインデックスのフラット化

# pivot で ロングフォーマットからワイドフォーマットに変換 waterlevel_df_wide = waterlevel_df.pivot(index=['date','station', 'river'], columns='hour' , values=['value']) # 行の MultiIndex をフラット化 waterlevel_df_wide.columns = waterlevel…

DP100 / Azure Data Scientist Associate / Azure AI Engineer Associate 更新試験用の対応方法

1. まずは更新試験を受けて対象となっているモジュール(章)を把握する 更新試験に出るのは下記の一部のモジュールコース DP-100T01--A: Azure でのデータ サイエンス ソリューションの設計と実装 - Training | Microsoft Learn 2. 点数の低かったモジュール…

Azure Machine Learning CLI DP100

ローカルに環境を作るといろいろトラブル起きるので、Azure Machine Learning Studio の Notebooks で実行することknaka20blue.hatenablog.com

Azure Machine Learning SDK ワークスペースの構成ファイルの取得方法 DP100

ワークスペースの構成ファイルはこういうの { "subscription_id": "1234567-abcde-890-fgh...", "resource_group": "aml-resources", "workspace_name": "aml-workspace" } Microsoft Azure Machine Learning Studio 上ナビからワークスペース名のタブを開く…

5万円で JDLA の E資格 に挑戦 ! スキルアップAI『現場で使えるディープラーニング基礎講座』 受講記録 その3 JDLA E資格 2022 #2 合格!!

なんとか合格 5万円の講座でも合格できました スキルアップAIの皆さんありがとう 忘れないうちにメモ 受験前に知っていたこと 2022 #2はシソーラスがかなり変化 ただし、特異値分解が試験に出ないと気付いたのは一週間前... 数十時間が無駄になった 試験中に…

Azure AI 102 AI Engineer 学習環境 の構築 Visual Studio Code と Anaconda を使って

Anaconda で Python 3.8 環境を作る conda create -n python38 python=3.8 -y conda activate python38 >conda info -e # conda environments: # base C:\Users\hoge\Anaconda3 python37 C:\Users\hoge\Anaconda3\envs\python37 python38 * C:\Users\hoge\An…

Google Drive ドライブ で OCR する方法

1) 画像を Google Drive に置く 2) Webアプリケーションの Google Drive から画像を右クリック。アプリで開く → Googleド キュメント

WSL に Docker インストール

sudo apt-get update sudo apt-get install ca-certificates curl gnupg lsb-release # Docker 公式のGPG 鍵を追加 curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg # 安…

Cupy インストール Windows

>conda install -c conda-forge cupy cudnn cutensor

matplotlib で IPA の日本語フォントを使えるようにする方法 Windows

IPAフォントをダウンロード moji.or.jp ダウンロードした zip ファイルを解凍して ipaexg.ttf ipaexm.ttf を matplotlib のフォントディレクトリにコピーする COPY ipaexg.ttf C:\Users\ユーザ名\Anaconda3\Lib\site-packages\matplotlib\mpl-data\fonts\ttf…

Windows には サムスン Samsung の SSD がおすすめ

「Samsung Data Migration」がとても優秀なので WIndows の Cドライブ を クローンしたい方には Samsung の SSD がおススメです 私の場合、先に クルーシャル Crucial の SSD で 「Acronis True Image for Crucial」を使ってクローンしたのですがうまくいか…

Anaconda仮想環境下でのCUDA環境の構築 [Python, Windows11]

環境変数 Path に 「C:\Users\\Anaconda3\Library\bin」 追加しておく python の実行で文字コード関連のエラーが出いたら C:\Users\\.python_history を削除してみる Anaconda 仮想環境の構築 # 仮想環境の python バージョンは base と同じにした方がトラブ…

データサイエンティスト検定 総合スコア 86.6% 合格したかな?

データサイエンティスト検定 リテラシーレベル | 一般社団法人 データサイエンティスト協会 データサイエンティスト検定 リテラシーレベル を 受験しました 合否判定はまだ出ていないのですが、総合スコア 86.6% だったので、おそらく合格しているのではと楽…

浮世絵 買いました 葛飾北斎 神奈川沖浪裏 The Great Wave

葛飾北斎「神奈川沖浪裏」 最近Outlook等のプロファイル画像にパブリックドメイン素材集からみつけた江戸時代の浮世絵師、葛飾北斎の「神奈川沖浪裏」という作品を使っているのですが、結構気に入っているのでボーナスが出ることもあり購入してみました。「…

5万円で JDLA の E資格 に挑戦 ! スキルアップAI『現場で使えるディープラーニング基礎講座』 受講記録 その2

www.skillupai.com 残っていた、深層学習知識テストに合格 4つの修了条件すべて達成した 1) 数学知識テスト (合格) 2) 機械学習知識テスト (合格) 3) 深層学習知識テスト (合格) 4) AIモデル作成課題 (完了) 目標としていた1ヶ月で修了できたので、8月のE資…

5万円で JDLA の E資格 に挑戦 ! スキルアップAI『現場で使えるディープラーニング基礎講座』 受講記録 その1

www.skillupai.com JDLAの E資格 は 決められた認定プログラムを修了しなければ受験することができない 自動車運転免許の教習所や医師免許の医学部卒業と同じようなシステムがとられている E資格認定プログラム事業者は多数あるもののいずれも結構いい値段が…