SIMD

AVX-512はFMA（fused multiply-add、 融合積和）命令を実装しています。FMA命令を数式にしたものを以下に示します。 a × b + k 式が表すように、積と和が合体した演算です。性能が向上すだけでなく、丸め（浮動小数点数で正確に表せない値を近い値にする）が1回しか発生しないため、積と和で実装したときに比べ精度が向上します。 FMAに関しては、精度、速度、コンパイラなのサポート状況について多くの議論がなされており、FMA自体の議論については、そちらへ譲り、本書ではAVX-512でサポートしているベクトル対応したFMAについて紹介します。

以前紹介した、一連の「一次元配列同士の演算」などを任意長を扱えるように拡張します。 arques.hatenablog.com 機能は、配列同士の各要素を演算し、別の配列へ格納するするプログラムです。処理概要を図で示します。

C++言語で記述したプログラムと、アセンブリ言語で記述した関数を利用したときの性能差を検証してみましょう。

一次元配列の各要素を検査し、与えられた値と一致する要素のインデックスを抽出します。戻り値は一次元配列に存在する特定値の数です。

一次元配列の各要素を検査し、条件を満足していたら、その要素を抽出します。当時に抽出した要素の位置を得ます。ここでは任意の値以上の要素を抽出、任意の値以下の要素を抽出、任意範囲の要素を抽出するとともに、そのインデックスを得る例を示します。前の関数は要素だけを抽出しましたが、本関数は要素に加え、その要素の位置（インデックス値）を抽出します。以降に処理概要を図で示します。

C++言語で記述したプログラムと、アセンブリ言語で記述した関数を利用したときの性能差を検証してみましょう。

一次元配列の各要素を検査し、条件を満足していたら、その要素を抽出します。ここでは任意の値以上の要素を抽出する、任意の値以下の要素を抽出する、任意範囲の要素を抽出する例を示します。以降に処理概要を図で示します。

本記事は2024年10月5日（土）にAlpacaHack上で開催された、AlpacaHack Round 4(Rev)上で出題された"Simple Flag Checker"という問題のwriteupです。AlpacaHackは個人戦の短期間CTFを継続して開催しつつ、それらの問題を常設することを目標とした新しいCTFプラットフォームです。AlpacaHackで開催される各ラウンドは1ジャンルをテーマとしていて、今回のAlpacaHack Round 4(Rev)はReversingをテーマとしたラウンドでした。私は本Roundに2問の問題を提供し、今回解説する問題である"Simple Fla…

はじめに まだまだ現役で利用されているシーンも多いかとは思いますが、下記のようなUSBに接続するタイプのアクセラレータが 2018年～2019年ごろ発売され始めて以降、特に進化したバージョンが現れてニュースを騒がせたりしていない気がします（私が知らないだけかもしれませんが）。 www.intel.co.jp coral.ai 今更なのですが、少しスペックを見ながら考察してみようと思います。 仕様調査 仕様を調べてみて、あまり不確かでない情報や ChatGPT の回答などもあるのですが、なんとなくそれっぽい値をかき集めてみました。 Intel Neural Compute Stick 2 Cor…

AlpacaHack Round 4 (Rev)へ参加しました。そのwrite-up記事です。

2024/8/28 - 2024/9/23 に開催されたプログラミングコンテストMN-Core Challenge #1に参加し、なんと優勝することができました！ この記事ではコンテストの振り返りと各問題に対する自分の解法の簡単な解説を行います。 MN-Coreについて 概要 MN-CoreシリーズはPreferred Networksが開発しているアクセラレータで、高いピーク性能・電力効率を実現するためかなり割り切った設計になっています。 数千個あるPEがすべて同期して動作する、条件分岐やループといった命令は存在しない、などの特徴により、動作がほぼすべて決定的*1という特徴があります。 ルー…

はじめに 先般 MN-Ccore Challenge なるものが開催され、私もスキマ時間に気分転換的にちょこちょこ挑戦していたのですが(本業関係者への言い訳)、とても面白いアーキテクチャだなと思いました(順位はまあその力及ばず微妙な感じでしたが)。 普段 FPGAプログラミングが多い私ですが、いろいろ新しい観点で脳に刺激を頂きました。 今更私なんかが考察する余地もない気はしますが、折角なのでプログラミングではなく、プロセッサアーキの方を少しだけ感想程度に記録しておければと思います。 いろいろ資料も公式に公開されていますし、コンテストも終わったようなので(実は終了日を勘違いしていました)、安心し…

FizzBuzz - MN-Core Challenge というコードゴルフに挑戦した記録です。 スコアはぴったり100になりました。 ただのFizzBuzzですが、SIMDプロセッサであるMN-Coreでこの手の処理をするのはかなり面倒です。 以下、順を追って説明していきます。 最初に作ったコード 全体的な戦略 1～6334についてのFizzBuzzということで、32768Byte程度出力する必要があります。 最短のコードでこれを行うためには、4096個あるPEが各々8Byte分の出力を作成すればよさそうです。 そこで、次の手順で出力を生成します。 自分の出力するべき位置（全32768Byt…

はじめに FPGAなどでデータ処理をする場合、その並列性を活かして高性能な処理をするという事はしばし求められることです。 その際にしばし使われるデータ並列とパイプライン並列を整理しておきたいと思います。 データ並列と言うと、AVX-2 のような SIMD(Single Instruction Multiple Data) や GPGPU のような SIMT(Single Instruction Multiple Threads) などでお馴染みかと思います。 一方でパイプライン並列は Verilog など RTL言語で FPGA等を開発する方々と違い、C言語などでプログラミングする方々にはあま…

みなさまお元気ですか 暑さも少し落ち着いてきて、ようやく外に出てもいいかなという気になってきました。季節の変わり目体調には気をつけていきたいですね。 実は、一ヶ月くらい前に Linux PC を自作して Mac から移行しました。そのときの考え、その後の感想を残しておきます。 また、学んだことや作業のログを細かく残しておきたいと思います。（どこかの誰かが不安に思ったときに同じ失敗や疑問を経験した人がいて安心してもらえたら嬉しい） Ubuntu のインストール画面 (ベストオープンソースと開発しよう！) 目次 Mac をやめるきっかけ、経緯 Ubuntu に移行して一ヶ月の感想 おまけ1: どの…

NaxRiscvのドキュメントを、改めて位置から読んでみることにしたいと思う。 spinalhdl.github.io msyksphinz.hatenablog.com msyksphinz.hatenablog.com 実行ユニット 実行ユニットの主な特徴は、それに依存する命令をウェイクアップする方法である。 静的ウェイクアップ : 固定レイテンシ(ストールなし)のEUの場合、発行キューは静的ウェイクアップが可能である。これにより、complete-to-useの遅延を2サイクル短縮できる。 動的ウェイクアップ : 可変レイテンシ(ストールあり)のEUの場合、EUは発行キューにウェイクアッ…

コンシューマー向けGPUは、倍精度演算性能こそ高くないものの、単精度でよければ驚異的な演算性能を持っています。 例えば、NVIDIA社のGeForce RTX 4090は、カタログスペックで82 TFLOPSもの性能があります。 カタログスペックに近い性能を出すことは困難ですが、cuBLASで行列積を行った場合、59 TFLOPSくらいは出すことができます。 初代地球シミュレータは（倍精度なので正しくない比較ですが）理論性能40.96 TFLOPS（LINPACK性能 35.86 TFLOPS＠2002年6月）なので、20年たったとはいえ、簡単に手に入る計算機でそれを超えるような演算性能が出せ…

本日の内容 IntelがAVX系の拡張命令として「AVX10」を間もなく投入する。これによって、AVX系命令がまとめられ整理される。今後はAVX-512は非推奨となりAVX10が推奨されることになるだろう。今回は、現時点でのAVX10の状況について述べていく。

RYZEN７６０００無印WITH Radeon Graphics 2UNIT でPCSX2 NIGHTLYが、１９２０＊１３４４の解像度で６０FPS だせるのはなぜか？？ 考えうる要因）・６４BIT対応による高速化（処理できるデータが３２BIT単位から６４BIT単位になるので まあ、速くはなるでしょう。。）．AVX512対応でSIMD処理が激速になったから？・素のPCSX2の開発途上のノウハウを生かして、 プログラムの基本構造を大幅に見直しし、 プレステ２のCPUにあたるEE（Emotion Engine：MIPS系CPU）、 グラフィック担当のGS（Graphic Synthesizer：S…