固定小数点数

背景 選定したSDR調査対象 搭載SoC SDR入門に好適なのは？（個人的感想） 背景 久しぶりに覗いたアマチュア無線用トランシーバの home-brew 用キットにも SDR 化の波が押し寄せていると感じ、先ずはアナログの郷愁を感じられる QCX キットを組み立てました。LPF を改良してスプリアスの抑制を行いましたが、ハードウェアでそれ以上の深化は非職業的技師の技量では難しそうです。 SDR であれば、機能の追加・改良の実験の大部分はソフトウェアの世界で閉じ、作業の多くはディスプレイの中で完結します。SDR は home-brewer 志向の省スペースアパマンハムに好適ではないかと考え、準…

本日は C# の小ネタ枠です。 $"{}"の文字列補間を使って文字列に変数を代入するメモを記事にします。 文字列補間 C# 6 以降で利用可能な文字列の補間式です。 補間式を含む項目は、式の結果の文字列に置き換えられます。 docs.microsoft.com 実例 $(文字列補間)を利用すると、以下のような形で文字列を出力できます。 string name = "Mark"; int id = 1; var date = System.DateTime.Now; // String interpolation: Console.WriteLine($"Hello, {name}. ID is…

RISC-Vベクトル拡張仕様書の読み直し。ベクトル拡張の標準プロファイルについて。 ベクトル拡張のバリエーションとしていくつかのサブセットが定義されている。組み込み向けにはいくつかの機能を省略することができるという仕組みだ。 github.com github.com 18. 標準ベクトル拡張 このセクションでは、パブリックレビューのために提案される標準ベクトル拡張について説明します。 組み込み用途を目的とした小規模な拡張機能のセットには "Zve "という接頭辞を付け、 アプリケーションプロセッサ向けに設計された大規模なベクター拡張機能には1文字のVという拡張子を付けています。 初期のベクト…

RISC-Vベクトル拡張仕様書の読み直し。次は固定小数点命令など。 github.com github.com 12. ベクトル固定小数点算術演算命令 前述の整数演算命令群を拡張し、固定小数点演算がサポートされています。 固定小数点数とは、暗黙の分母を持つ分数の分子として解釈される2の補数の符号付きまたは符号なしの整数です。 固定小数点命令は分子に適用されることを意図しており、分母を管理するのはソフトウェアの責任です。 Nビットの要素には、-2N-1…​+2N-1-1の範囲の2の補数の符号付き整数と、0…​+2N-1-1の範囲の符号なし整数を格納できます。 固定小数点命令は、スケーリングと丸め…

今回の主な話題：フレーム同期下の移動システムを作成する方法、ブランチ管理の同期問題、カメラスクリーンショットのパフォーマンスを節約する方法、現在のゲームでTextureのMipMap使用レベルを取得する方法、特殊効果の合併問題。 フレーム同期 Q1: 以前、自分でDemoを作ったときに、CharacterControllerと剛体を使って移動する時の壁抜け問題を解決しました。コードはシンプルで効果も悪くないでした。ただし、仕事でフレーム同期のシューティングゲームを作成する必要があります。剛体は表示レイヤーに属すため、マシンごとにパフォーマンスや更新頻度が異なりますから、計算された結果も異なり、…

浮動小数点数同士の足し算や引き算の結果は、浮動小数点数で正確に表せるとは限りません。 そういった場合、近い値を持つ浮動小数点数に丸められます。 どういった場合に結果が浮動小数点数で正確に表せるか、という問題に対しては、以下のシンプルな結果がよく知られています。 「同符号の二つの浮動小数点数の差を求める場合、二数の比が二倍以内（0.5～2）に収まっていれば、必ず正確に表せる」 しかし、この結果は十分条件ではありますが、明らかに必要十分条件になっていません。 例えば、4.0-1.0=3.0ですが、4.0と1.0の比は二倍を超えているにもかかわらず結果の3.0は正確に表せそうです。 必要十分条件はど…

pp.259-260 非公式訳: これは、コンカレントコードについて前に述べた2つの特殊なケースの2つめです。演算回路に関することです。演算回路を実装する場合にお奨めの手法を以下に示します。 演算回路は、セクション1.5、1.6で復習したように、符号が問題になる回路です。そのため、たとえばinteger型を使うのは良い考えではありません。なぜならコードを見ただけでは符号つきか符号なしかがはっきりとはわからないからです(符号つきか符号なしかは、関係する整数に指定された範囲をコンパイラーが調べて決定します)。 演算回路に推奨される型と、その型が定義されている個々のパッケージとを以下に示します(パッ…

数値の表し方 コンピュータの中で利用される数値には、 1.10進数値 2.固定小数点 3.浮動小数点 の3種類があります。 トレードBOTを書けるようになる上で、実用上浮動小数点は覚えて置いた方がいいので、そこだけ説明します。 それ以外は詳しく説明はしませんが、用語集のリンクを置いておきます。 必要に応じて読んでください。 浮動小数点 例えば、365という数値は、0.356 x 103(^は乗数を表す)と表す事が出来、同じように3560という数字は0.356 x 104と表すことが出来ますね。 これを一般化して、365や3560をNと表して、 0.365をmと表して、 103とか104をd x…

「FIRのフレーム処理」 では、FIRフィルタのフレーム化（実装）を紹介しましたが、今回は組み込み向けの話しをしたいと思います。 信号処理の組み込みと言えば、まずはDSP*1を思いつきますが、 RISC CPUによるSIMD*2やVLIW*3のように、並列処理により信号処理が高速に行われる時代になりました。 そしてDSPにも高速なFPU*4を持ったものや、SIMDやVILWが使われる時代で、ハイスペックなDSPが登場し再度注目を集めていると思います。 固定小数点DSP 組み込み向けのリファレンスコード（デジタル信号処理向けのリファレンスコード） basic_op （固定小数点DSP向けの命令関…

補遺1214-4: 20██/██/██ に、 SCP-1214 の再現実験に成功したと主張するウェブサイトが財団の Web クローラによって発見されました。 + 公開されていたウェブサイトの内容： という体で始めます。 本記事では、 SCP-1214 - 特異乱数生成プログラム (オリジナルの英語版) の機能面における再現を目指します。 SCP-1214 は、要約すると以下のような性質を持っています。 0-9 A-Z :;<=>?@ の 43 種類の文字をランダムに生成し、1 秒ごとに 50 文字ずつ表示しつづける C# プログラム アルゴリズム的には一般的なもので、不審な点はない にもかか…

組み込み開発時に、一般的な(?)プログラミングではあまり扱わない要素として「固定小数点数」の利用があります。組織によっては単に「LSB」とか呼ばれたりしますが、新入社員の時にさも当然のことのように言われて困惑した思い出があるので、ここにメモとして残しておきます。 固定小数点数 単位としての「LSB」 演算時の注意 除算 データサイズ 実例 まとめ 固定小数点数 おそらくプログラミングに触れて最初に知ることになる小数の表現方法は「浮動小数点数」だと思います。これは仮数部と指数部からなる表現方法で…というのは大体の教科書に書いてると思うので省略します。固定小数点数の説明は以下です。 固定小数点数（…

変数を利用したい時にデータ型が必要になります。このデータ型について確認してみましょう。 データ型 Java のデータ型 符号付き整数と浮動小数点数 符号付き整数（固定小数点数） 浮動小数点数 文字 論理値 まとめ データ型 データ型とは、そのデータの種類を表すものです。 「1」と記述されていた場合、これはどのような「1」と見ることが出来るでしょうか。 単純に考えると数字の「1」ですが、文字の「1」とも考えられます。 人間は「1」の前後を読み取る事で数字なのか文字なのかを理解する事が出来ます。 「1 + 1」と記述されていたら数字、「第1章」と記述されていたら文字であると判断しています。 ではコ…