Hatena Blog Tags
はてなブログ トップ
Rocm
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Rocm

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
AOI-CAT's diary•1年前

LLMをWindowsローカルマシンで実行し、AMD RX6600Mを使う。(LM Studio, KoboldCpp-rocm)

はじめに AMD RX6600M GPUを搭載したWindowsマシンで、テキスト生成用途にLLM実行環境を試したときのメモです。 LM Studio、Ollama、KoboldCpp-rocm、AnythingLLMの各ソフトウェアの使用感、GPU動作について紹介します。 結論として、この中ではLM StudioとKoboldCpp-rocmがAMD RX6600Mを利用して動きました。 はじめに モデルについて 使用感と利点・欠点 1. LM Studio 2. Ollama 3. KoboldCpp-rocm 導入と設定 4. Anything LLM まとめ モデルについて LM St…

#LLM#Rocm#Windows#AI

ネットで話題

もっと見る
46ブックマークXboxでStable Diffusionを動作させる猛者が登場、ONNX利用でPythonへの依存をゼロにしてNVIDIAのCUDA・AMDのROCm・AppleのCoreML・QualcommのQNN・MicrosoftのDirectMLでも動いてWindows・Linux・macOS・Android・iOS・WebAssemblyなど全てOK、ほぼあらゆるアプリケーションへの統合が可能にgigazine.net
43ブックマークAtheros ROCm Technology Teams With Eye-Fi to Unleash the Future of Wireless Photo Sharingwww.qualcomm.com
17ブックマーク「AMD ROCm」が「WSL 2」にベータ対応 ～NVIDIAでいうところの「CUDA」に相当／マルチGPU、「Tensorflow」もサポートforest.watch.impress.co.jp
13ブックマークAMD ROCmを使うことで何ができるのか - シンギュラリティ実験ノートsingula2045.hatenablog.com
12ブックマークAMDの最優先事項は「ROCm(Radeon Open Compute platform)」の発展だとAMD幹部が明言、オープンソースのプログラミング言語「Triton」の採用でNVIDIAに反撃へgigazine.net
10ブックマークAMD ROCm™ Documentation — ROCm Documentation HomeROCm Documentation is transitioning to this site. For the legacy documentation, please visit docs.amd.com. For more information or to provide feedback about this documentation transition, please see our announcement.rocm-documentation.readthedocs.io
8ブックマークGitHub - ROCm/hip: HIP: C++ Heterogeneous-Compute Interface for Portabilitygithub.com
7ブックマークゲームもAIも両立！ROCm対応進化でRadeon GPUでもLLMライフを捗らせる！ - Qiitaこの記事は、Ateam LifeDesign Advent Calendar 2024 の 25日最終記事になります。 はじめに Ryzen 7 9800X3D が 11月15日(金) AM11:00 に日本国内で発売された瞬間品切れになり中々入手できない中、偶然手に入れることができたので、20数年ぶりに自作PCをした@kopugです。 どうせならGPUもAMDのRadeon 7900XTXにし、年...qiita.com
6ブックマーク1時間でAMD ROCm環境を構築してStableDiffusionを走らせてみた | DevelopersIOdev.classmethod.jp

関連ブログ

端の知識の備忘録•1年前

【ベンチマーク編】 Radeon Instinct MI50を買って機械学習用に使ってみる【ROCm】

まえがき ROCmを試すためにRadeon Instinct MI50を買ってみて、PyTorchで使えるようにセットアップをしたのが前回。 hashicco.hatenablog.com 今回は取ったベンチマークの結果をご紹介！ まとめ ROCmは本当にほぼコード変更無しでCUDA用のTensorFlow、PyTorch、Transformersのコードが動く。素晴らしい。 1GPUであればMI50のほうがP40よりも速い。特にFP16を利用する場合は4割くらい早く、結構実用的。 2GPUだとあまりまともな速度が出ない。処理速度に波があるような挙動を示すため、Gradientの集約に時間がか…

#Rocm#AMD#GPU#instinct
端の知識の備忘録•1年前

【セットアップ編】Radeon Instinct MI50を買って機械学習用に使ってみる【ROCm】

まえがき しばらく大きな買い物をしていなかったが、仕事からの現実逃避をしているとふと思う。「ROCm、試してみたいなー」 ということで、ebayを開きめぼしいGPUを探してみたところ、$200以下のお手頃価格で一応ギリギリ最新のROCm 6.0.2にもメンテナンスサポートされているMI50を発見。 送料も考えて2枚まとめて買ってみたので、数回に分けてROCmのインストールから機械学習用の環境構築、以前に買った同価格帯の中古サーバー用GPUの先輩であるNVIDIA P40との比較までを書いていこうと思う。 今回はセットアップ編ということで、取り付けとROCmインストールでrocm-smiが動くと…

#AMD#GPUコンピューティング#機械学習#Rocm
Harukaのnote•2年前

ROG Zephyrus G14 (2022) Radeon GPUでStable Diffussion WEB UIを実行

久しぶりのブログ更新になりました。 今回は自分のノートPCであるROG Zephyrus G14 (2022) GA402にLinuxをデュアルブートして、Stable Diffusion WEB UIの実行が確認できたので残して置きたいと思います。 ROG Zephyrus G14 (2022) はノートでは珍しくRadeon RX6700s(VRAM: 8GB)を搭載するPCです。そのためNVIDIAのCUDAではなくAMDのROCｍ（CUDAに相当するライブラリ）を使用する必要があります。 今回の備忘録はROG Zephyrus G14に限らず、Radeon eGPUを搭載するデスクトッ…

#Stable Difffusion#ASUS#ROG Zephyrus#AMD#Radeon#Pytorch#Manjaro Linux#Linux
なすのみそしる•2年前

Ubuntu 22.04+RDNA2でサクっとStable Diffusion WebUI [2023/08]

まえがき DirectML版で以前から動かしてたけど遅かったんで環境をUbuntu 22.04に動かした。そのセットアップメモ。ちゃんとRadeonでも高速に動きます 免責:このページに書いていることを行って発生したいかなる損害について筆者は責任を負いません。自己責任でお願いします。（テンプレ） 筆者の環境 OS: Ubuntu 22.04 Jammy 機械学習系やるならやはりユーザーが多いUbuntuがいいんじゃないでしょうか GPU: RX 6650XT 6000シリーズ以外だと手順とかこのあとの引数とか環境変数とかが違ってくるらしいです 手順 なんか途中でエラーが起きたらググるなりして自…

#Radeon#Stable Diffusion#Rocm#Ubuntu#AIイラスト