ONNX

あけましておめでとうございます。 今年もよろしくお願いします。 今年の年末年始は帰省しなかったので、東京で一人で過ごしていました。 一週間以上誰とも会わず、喋らず、ほとんど外に出ずでした。 久しぶりにまとまった時間があったので、この年末年始は機械学習系の諸々を触っていました。 色々とやっていたのですが、onnxとそのjs実装であるonnxjsが結構面白かったのでご紹介します。

build and install onnx-tensorrt environment jetson xavier nx jetpack4.4 uname -a Linux jetson xaveir-nx 4.9.140-tegra #1 SMP PREEMPT Tue Oct 27 21:02:46 PDT 2020 aarch64 aarch64 aarch64 GNU/Linux update cmake (3.13 Later for onnx-tensorrt) cmakeのビルドに必要な物をinstall sudo apt install libssl-dev libprotob…

Vengineerの戯言 : Twitter SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった はじめに、 昨日、「Sima.ai の MLSoC (AI Edge デバイス)って、どんなものだろうか？」にて、SiMa.ai について調べていたら、ディープラーニングフレームワークにTVMを使っていました。 vengineer.hatenablog.comSiMa.aiのMLAは TVM にとっては新しいアクセラレータなので、どのような仕組みで取り込んでいったのか気になりました。 そこで、今日は、TVMではどのようにして、新しいアクセラレータに対応し…

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった 今週は、Intelを昨年やめたJim Kellerさんが AI Chip company の Tenstorrent に、President and CTO, with a seat on the board という立場でジョインしたというニュースが入ってきました。 下記の記事によると、DECを辞めた後にはCPU関連の会社の2年から4年で移っているみたいですね。。。Intelで何をやったかまでは書いていませんけど。 SPARC以外全部関わっている感じで…

あけましておめでとうございます。 今年もよろしくお願いします。 今年の年末年始は帰省しなかったので、東京で一人で過ごしていました。 一週間以上誰とも会わず、喋らず、ほとんど外に出ずでした。 久しぶりにまとまった時間があったので、この年末年始は機械学習系の諸々を触っていました。 色々とやっていたのですが、onnxとそのjs実装であるonnxjsが結構面白かったのでご紹介します。

×165 Bloomberg - Are you a robot? ×134 Centering in CSS ×60 Scale by Geoffrey West | thinkthinkthink #13 - thinkthinkthink ×52 Open-sourcing api-diff, a tool for side-by-side evaluations of JSON APIs | Radar Blog ×49 How I Got a Computer Science Degree in 3 Months for Less Than $5000 | Miguel Rochef…

R&D チームの奥村（@izariuo440）です。相変わらず深層学習モデルの推論に取り組んでいます。深層学習モデルの推論器として二年前に ONNX Runtime を軽くレビューしましたが、当時と比較するとかなり進歩しており、ONNX Runtime だけでなく ONNX 自体や関連ソフトウェアも成熟が進んでいるので、備忘録として私がお世話になっているものをかいつまんで紹介します。 OPTiM TECH BLOG Advent Calendar 2020 12/18 の記事です。 ONNX や ONNX Runtime は二年前の記事で少し解説しています。必要に応じてご参照ください。 tec…

この記事はOpenCV Advent Calendar 2020 18日目の記事です。 はじめに OpenCVにはDNNモジュールという畳み込みニューラルネットワークの機能が実装されています。この機能は推論専用のため、CaffeやTensorflowなどの深層学習ライブラリ上で学習したモデルを読み込んで使用します。DNNモジュールはPyTorchのモデルを直接はサポートしていませんが、ONNXをサポートしているため、PyTorchからONNX経由でモデルを読ませることができます。 参考： takmin.hatenablog.com さて、自分たちで開発をしていると、既存のネットワーク層ではなく…

この投稿はrioyokotalab Advent Calendar 2020 7日目の投稿です。 adventar.org 実験ログをきれいに取りたい PyTorchでコードで学習コードを書いた時の悩みの一つ。それは、ログの取り方だと思います。取りたい情報は損失、学習ステップ、学習率など、様々です。それぞれの情報が、取得するために様々な実装を必要とします。 今回は、pytorch-pfn-extrasのステマ紹介をします。 github.com pytorch-pfn-extrasは実験のログをきれいに表示したり、ファイル出力してくれたりはもちろん。学習の進捗状況の表示や、Chainerではお…

本記事はPytorch Advent calendar 2020の1日目です。 TensorRTとは TesnorRTを気軽に試す 画像認識 画像セグメンテーション 他高速化シリーズ aru47.hatenablog.com aru47.hatenablog.com TensorRTとは Amazon | NVIDIA Jetson Nano Developer Kit - 強力 AI コンピュータ 開発者キット | NVIDIA | インターフェースカード 通販 Amazon | NVIDIA Jetson Nano 2GB 開発者キット JETSON NANO 2GB DEV KIT | …

AWSのEC2に、NVIDIA A100のインスタンスが追加されたので、dlshogiでどれくらNPSが向上するか測定してみた。個人としてはAWSを使っていなかったので、AWSのアカウントを作成して、vCPUの上限緩和申請するところから行った。 P4dインスタンスは、vCPUが96なので、上限緩和申請が必要である。 しかし、上限緩和申請をお断りされてしまった。そこで、知り合いからアカウントをお借りして測定を行うことにした。 環境構築 AMI AMIは、p4d.24xlargeに対応している「AWS Deep Learning Base AMI (Ubuntu 18.04) Version 31…

@Vengineerの戯言 : TwitterSystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった 先週、ちょっと盛り上がった、これ。 www.design-reuse.com Microchip は、Actel を買収した Microsemi を買収して、FPGAに参入。 ただし、MicrochipとしてはFPGAはソリューションの一部。 その後、 - VectorBoxを買収して、TensorFlow/ONNXからFPGAへのフローに参入- LegUpを買収して、HLSでVectorBox機能の強化 という感じですが、ソリューションの強化。。。 F…

iPhoneでの機械学習あれこれ（1）を執筆した時点では、PyTorchモデルを直接Core MLモデルに変換するツールはありませんでした。当時から「Core ML tools」という機械学習モデルの変換ツール（Pythonパッケージ）はあったのですが、PyTorchには対応していませんでした。しかし、今年の7月末にリリースされたCore ML tools 4.0では、遂にPyTorchモデルを直接Core MLモデルに変換可能となったようです。coremltools.readme.ioそこで、早速導入してトライしてみました。まだまだ情報も少なく色々手探りでしたが、何とかある程度方法が理解出来…