実数 を と表す浮動小数点表記で、 のこと。 のような書き方で、 の値によって、小数点が移動するため、仮の数と言う意味。
初めに ABC169に参加しました。いや～過去最高にWA出しましたね(笑) やっていて辛くなりました、、、B、Cでやられました、、、 Bはオーバーフローさせないようにすれば良いことは分かったんですが、実装が出来ませんでした。 Cも誤差の影響でWAしてるってことはわかったんですが、実装が出来ませんでした。 B問題についてはケアレスミスで実装に失敗していただけだったので、 今回はC問題についてのみ書いて行こうと思います。(浮動小数点数のおさらいもしたいので) https://atcoder.jp/contests/abc169 ※ブログ内で問題の制約事項をすべて記載はしないので、制約事項は↑のUR…
はじめに decimalを使用すれば精度高く浮動小数点が式中に登場する式の積が求められるらしいことはコンテスト中に分かったが、解答に至らなかったので、復習。 atcoder.jp decimalの使用に適した形が理解できたのでメモ。 条件 問題文として与えられている条件は Aは整数 Bは小数第二位まで 解答 using System; using System.Collections.Generic; using System.Linq; namespace easy_Atcoder { class Program { static void Main(string[] args) { dec…
丸め誤差 数値を有限ビット数で表現するため、最下位けたより小さい部分について四捨五入や切上げ、切捨てが行われることにより発生する誤差 情報落ち 絶対値の非常に大きな数と小さな数の加減算を行ったとき、指数部が小さいほうの数の仮数部の下位部分が計算結果に反映されないために発生する誤差 けた落ち 絶対値のほぼ等しい２つの数の差を求めたとき、有効けた数が大きく減るために発生する誤差 打切り誤差 浮動小数点数の計算処理を途中で打ち切ることによって発生する誤差
競技プログラミングに取り組む中で，浮動小数点計算の誤差が重要になる問題に出くわしました． ここで一度まとめておきたいと思い，記事にしました． ※わかりやすさ重視で書いているので厳密性には欠いているかもしれません． 明らかな間違いがあればご指摘ください． そもそも浮動小数点とは？ 浮動小数点数（ふどうしょうすうてんすう、英: floating point number）は、浮動小数点方式による数のことで、もっぱらコンピュータの数値表現において、それぞれ固定長の仮数部と指数部を持つ、数値の表現法により表現された数である。 ↑はWikipediaからの引用です． 簡単に言うと【仮数】×【基数】^【指…
これまでは計算速度ばかり気にしていたのですが、いまさら重大な問題に気付きました。Cで書いたベンチマークは変数をdouble型（倍精度）としていましたがNS32Kアセンブラによるプログラムはaddf、mulfといった単精度グループの命令で書いてしまっていました。微細部分を見るため拡大率を上げるとすぐに桁落ちしてしまいます。 32bit単精度は仮数部のbit数が23なのでLOG（2^23）=6.9 10進の有効桁数約7桁 64bit倍精度は仮数部のbit数が52なのでLOG（2^52）=15.6 10進の有効桁数約15桁 になるはずなので実際にやってみました。・・といってもNS32kボードでやると…
Swiftの基本の型 第2回として、下記の「Swift実践入門」を参考に、数値型について学習したので、備忘録としてまとめます。 gihyo.jp 数値型とは、その名の通り数値を表す型です。 数値を表すリテラルを数値リテラルと言い、数値リテラルには整数リテラルと浮動小数点リテラルがあります。 例 ) 123 ・・・ 数値リテラル 1.0 ・・・ 浮動小数点リテラル 整数リテラルのデフォルトの型はInt型であり、他の型として認識されない場合は型推論により、Int型の値を返します。 let a = 123 // Int型 浮動小数点リテラルのデフォルトの型はDouble型であり、他の型として認識され…
LLVMのLLVM言語の識別子、型、定数（リテラル）の仕様についての自分用メモ。 本家ドキュメントから今自分に必要そうな部分を抜き出し、日本語の情報として残しておく。 ※LLVMのバージョンは10.0.0 目次 識別子 型 Void型 関数型 ファーストクラス型 整数型 浮動小数点数型 ポインタ型 ラベル型 配列型 構造体型 定数 単純な定数 複雑な定数
C言語を学ぶ上での基本知識−５ （負の表現、小数表現） C言語を学ぶ上での基本知識−５ 数値演算 負数の表現 反対符号数値 小数表現 固定小数表現 浮動小数 前回 hima-3.hateblo.jp 最初から hima-3.hateblo.jp 数値演算 １と０で整数を表すとビット数によって表示可能な数値の範囲が決まる。 負数の表現 負の数は最上位ビットを使用して表します。 0＝正 １＝負 4ビット ＋符号 で表す −１ １ ０００１ 最上位ビット このようになる 反対符号数値 ３の整数を-3のような負の数字に変換する場合 （４ビットの場合） （１）元の数の全ビットを反転したビットを作る ３=…
先日、こんなツイートを見ました 【自然数出力選手権表彰】1から100までの自然数を出力するハイセンスなアイデアをご覧下さい。 pic.twitter.com/yKaHkuTLv7— 数学を愛する会 (@mathlava) 2020年4月16日 1から100の自然数を表示させる方法というものですが、その中の一つに1/9801を小数で表示すると0.0001020304050607... というふうに2桁の整数が順番に表れるというものがありました。え、すげー！ その後しばらくしてふと、そういえばこれ、数年前にコーディング面接って文脈で見たことあったなと思い出しました。*1 コーディング面接中にこんな…
