Hatena Blog Tags
はてなブログ トップ
浮動小数
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

浮動小数

(コンピュータ)
【ふどうしょうすう】
このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
hs20230321のブログ•2年前

Octaveを使ってみた件

とりあえず開設。 基本的には、趣味で調べたことを書いていこうと思います。 早速ですが Octave を使ってみた件です。 ダウンロードは GNU Octave から行えます。 ダウンロードは、Linux版、BSD版、MAC版、Windows版、そしてソースコードのダウンロードもできるようです。 さて、何のためだったのかというと、 浮動小数点のメモリイメージが何を示しているのか調べたかったので、 方法を調べたときにヒットした hex2num を試してみたかったからです。 ほかにも javascriptで変換する物 とかあったのですが、 また別途書くことにします。 インストールとか設定は日本語で解…

#Octave#hex2num#float#浮動小数

ネットで話題

もっと見る
39ブックマークPython3で巨大な浮動小数計算の結果が変だったので理由を調べてみた -paiza.hatenablog.com
15ブックマークAndroid NDK r5 と armeabi, 浮動小数命令の種類 | ホイール欲しい ハンドル欲しいAndroid 端末 ZEN Touch2 は低価格ながら i.MX51 を搭載しており CPU core は ARM Cortex-A8 であることがわかりました。 ARMv7 アーキテクチャなので ARM11 (ARMv6) 系のスマートフォンより高速に 動作すると考えられます。 ・Creative ZEN Touch 2 ところが ZENTouch2 は armeabi-v7a で build した NDK のアプリケー...wlog.flatlib.jp
10ブックマークTegra2 Cortex-A9 と浮動小数演算 | ホイール欲しい ハンドル欲しいARM の浮動小数演算命令は再び混沌としてきました。 Tegra2 の Cortex-A9 では NEON 命令が使えないようです。 テストしたのは LuvPad AD100。 Tegra2 搭載でメインプロセッサは Cortex-A9 の Dual Core (MPCore)。 以前作成していた ndk のコードが動かず、build 時の neon option を外すと 動作しました。 その代わり ...wlog.flatlib.jp
10ブックマークSSE2による浮動小数演算の仕組みと検証codezine.jp
9ブックマークSnapdragon と浮動小数演算速度 | ホイール欲しい ハンドル欲しいHTC X06HT (Desire) が手に入ったので Qualcomm Snapdragon QSD8250 (CPU core は Scorpion) を試してみました。 この CPU core は Cortex-A8 と同じ ARMv7 ですが設計が異なります。 iPhone は 3G→3GS で CPU 速度が大幅に速くなりました。 CPU Core が ARM11 (ARMv6) から Cortex-A8 (ARMv7A) へと世代交代したため た...wlog.flatlib.jp
8ブックマークiPad2 A5 と浮動小数演算 VFP/NEON | ホイール欲しい ハンドル欲しいiPad2 のプロセッサ A5 は浮動小数演算が高速です。 ” Cortex-A9 1GHz の dual core ” という構成は Tegra2 と同じですが、 Tegra2 が NEON 非対応なのに対して A5 は NEON に対応していることが わかりました。 過去に発売された iPhone/iPad と互換性を保つには Cortex-A8 との バイナリ互換が必要となります。NEON 搭...wlog.flatlib.jp
7ブックマークARM Cortex-A8 の NEON と浮動小数演算最適化 | ホイール欲しい ハンドル欲しいARM も x86 と同じように、これまで様々な命令セットの拡張が行われてきました。 例えば乗算一つとっても多数の命令が存在しており、どれを使えばよいかわからなくなる ことがあります。 x86 に FPU と SSE 命令が共存しているように、ARM にも VFP や NEON 命令があります。 どちらの命令を使っても、単精度の浮動小数...wlog.flatlib.jp
5ブックマーク娘に分かりやすく浮動小数を教えるシナリオ - Qiitaqiita.com

関連ブログ

nao-milkの経験ブログ•4年前

浮動小数を使用せず演算

小数を含む演算は、浮動小数点ユニットを使用する為、処理速度が遅くなります。 しかし、その式に乗算とビットシフトを追加することで演算速度が速くなります。 その方法を順を追って、また、ソフトウェア(C言語)とハードウェア(半導体設計)に分けて説明します。 YUVの用途 (ちょっとした用途の説明) RGB→YUV変換式 C言語の記述例① 浮動小数を使わずに演算 C言語の記述例② 浮動小数演算を使うと演算に時間がかかる RTL設計 回路構成 verilog-HDLの記述例 タイミング図 最後に まずは説明する上で、画像処理の1つ「RGB→YUV(YCbCr)変換」をご存じでしょうか？ この変換式を例に…

#画像処理#C言語#Verilog#浮動小数#固定小数点数#演算#FPU#変換