仮数

48 bit への回帰 昔の CDC の実数は 48 bit 長だったと思います。 www.hpcwire.com IBM も 360 シリーズに統一される前は、現在の 8 bit = 1byte ではなく、1 文字 6 bit で科学技術用は単精度浮動小数点数が 1 語 36 bit 2 進型で精度が今より良くなっていました。その後 360 シリーズで 32 bit 16 進 単精度になって精度がた落ちで倍精度必須的な感じになり、IEEE754 で 2 進 32 bit に統一されて現在に至っています。 メモリー移動の律速化と、AI 用途での必要精度の低下で、歴史が循環しているようです。 M…

どんよりとした感情の雨、ずんぐりむっくりした世界の晩、記憶喪失のアスファルトを踏むずさんな足、記号化された数多の失意、紀元前から隠していた思いの化合物、澱んだ質問の後に迫る復讐劇の青臭さ、にじむ余韻に平伏す僕らの破壊兵器、季節感を蝕むコギト、偶然だね、と語りかける君の城下町、帰巣する鳥たちの後を追い、未修の夜の雰囲気を描く画家たちのゲノムを集めて、新たな世界を再生するのだ、と語る神との対話、すべては、この瞬間によりあふれ現れたのであり、すべての交わりにより、世界とは、より強固なものになるのであり、瞬間に擦り寄る畏怖などは、その瞬間に昇華し、詩的なものにより超克される普段から回転する星々もまばら…

浮動小数点 (floating point number) 循環小数による誤差 指数表記（E 表記） 浮動小数点型（float／double／decimal） float double decimal 注意 小数の一致判定 実験 キャストの処理時間 浮動小数点 (floating point number) 表現方式 小数点の位置 利点 欠点 浮動小数点 可変 表現できる範囲が広い データ解析に処理時間が必要 固定小数点 固定 ↑と逆 ↑と逆。単純なので高速 コンピュータ上で "小数" を表現する方法の一つ。 "IEEE 754" で標準化されている。 浮動小数点は、"符号、仮数、指数" で表…

リソースをまとめたのみで、これといってアルゴリズムを解説しているわけではない。 後々時間をみつけて気になったものは記事化するかもしれない(しないかもしれない)。 はじめに 以下の前提をおく。 IEEE754準拠 IEEE 754-2008 IEEE754とかなにかというのは、IEEE 754(wikipedia)をみるとだいたいわかる。 符号化形式 D言語でdouble型の値から指数部・仮数部・符号を抜き出す疑似コードは以下のようになる。 // 浮動小数点数を整数表現で持つ. ulong ival = *cast(ulong*) &val; // 指数部は11ビットで表される. enum lo…

読み終えた。入門～中級という感じだったかな。Typescriptの本なのでJavascriptの深いところまでの説明はなかった。 忘れそうなことメモ TypeScript の数値はIEEE 754 倍精度浮動小数点数 数値（仮数部）の精度が53 ビット Falsyな値は、0, NaN, 0n, "", null, undefinedのみ。 短絡評価 x || y は、xがfalsyのときのみyが評価される x ?? y は、xがnullまたはundefinedのときのみyが評価される。（空文字列を有効としたい場合） x && yは、xがtruelyのときのみyが評価される。 分割代入にもデフォ…

浮動小数点数を，仮数部が7ビットである表示形式のコンピュータで計算した場合，情報落ちが発生しないものはどれか。ここで，仮数部が7ビットの表示形式とは次のフォーマットであり，( )₂内は2進数，Yは指数である。また，{ }内を先に計算するものとする。 {(1.1)₂×2⁻³+(1.0)₂×2⁻⁴}+(1.0)₂×2⁵ {(1.1)₂×2⁻³-(1.0)₂×2⁻⁴}+(1.0)₂×2⁵ {(1.0)₂×2⁵+(1.1)₂×2⁻³}+(1.0)₂×2⁻⁴ {(1.0)₂×2⁵-(1.0)₂×2⁻⁴}+(1.1)₂×2⁻³ 解答・解説 (adsbygoogle = window.adsbygoogle…

子供の名前を検討している。 苗字＋使いたい漢字＋一文字で考えているが、姓名判断で良い結果が出ないので、 「姓名判断的に良いラスト一文字の漢字」を列挙するスクリプトを書いた。 例）佐藤 孝〇のように、孝という使いたい漢字があり、ラスト一文字〇を検討中。姓名判断は様々な流派があるが、Wikipediaをベースにしている。「苗字＋使いたい漢字」から画数を取得するには、「文字情報基盤検索システム」を利用している。 moji.or.jp 昔はAPIでの提供もあったようだが現在はされていないため、 1秒に1回しか取得しないようにしている。 また、「苗字と使いたい漢字」から画数を取得するだけなので、3回程度…

コンピュータで少数点を含む数値を表現するときに浮動小数点数という表現の仕方があります。 その中でも、IEEE（米国電気電子学会）により規格されたIEEE754の浮動小数点数について解説していきます。 (adsbygoogle = window.adsbygoogle || []).push({}); 基本の浮動小数点数の表現 まず、基本の浮動小数点数の表現の仕方から見てみましょう。 浮動小数点数は「符号」「指数部」「仮数部」の形式で表現します。 32ビットで表現する場合は下記の通りです。 【符号】 【指数部】 【仮数部】 1ビット 7ビット 24ビット 符号は正の場合は0、負の場合は1とする …

こんにちは、すぐるです！ sugulogをお読みいただきありがとうございます！！ このブログは、「 過去の無知な自分に向けてわかりやすく説明するなら？？ 」を基準に書いています。 少しでもお役に立てれば幸いです。 今回は、プログラミング用語一覧ということで プログラミング用語な~は行編 について簡単に解説します！！ その為このブログを読むことで、プログラミング用語について理解が深まるのはもちろん、何か困ったときのカンニングペーパーとして参考になります。 是非最後までご愛読ください。 今回は、 ・な~は行 の順で解説していきます。 では早速、みていきましょう！！ ・ネイティブアプリケーション(ネ…

ただ阻まれるだけの理念にそぐうために、あたかも寄り添うような演技を続け、偽善がなんだ、と促す我や君も、ただ縋るために良い子を演じてるに過ぎぬ、とうつつを抜かして、これでもかと襲いかかる過信に齧り付き、壊乱するあたりからこぼれる科学的な繁栄や、はびこる悪意により強固になるバビロンでは、判断を誤り、何かを責め立てるばかりで味気ないものだね、とカーストを乗り越え、涅槃で築いた大層な愛に寄りかかり、過信ばかりをため込む。汗だくの私怨を乗り越え、無着色の夕景を補正して、散漫なアイドルたちが歌う余力なんかにより、この世界とは欲を肥大させるの、とルソーやルターと語り明かす法についてや、にやける猫たちに処刑さ…

こんにちは。2021年度（R03年度）の量子力学の解説をやっていきます。 問題を持っていない方向けの閲覧およびダウンロードのリンクはこちら 最初に，この記事では理解しやすくしたり記憶のとっかかりをつくりやすく（忘れちゃってもその場で自分で導出できるように）するためにできるだけ詳細な説明を書きますが，説明がよくわかんない or 丸暗記でもいけるよ という方は，無理に理解しようとせずに流れをさくっと覚えてしまうことをオススメします。多分そっちの方が効率がよいと思います。 あと，めちゃくちゃいっぱい書いたので結局試験の時なに書けばええねんって感じになっちゃったんですけど，ここをうまくつないで書けば説…