Hatena Blog Tags
はてなブログ トップ
丸め誤差
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

丸め誤差

(サイエンス)
【まるめごさ】

桁数を省くことによって生じる誤差。

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
資格部 📝•6 日前

AP 離散数学⑤

◀︎ 前へ｜次へ ▶︎️ 桁落ちによる誤差の説明として，適切なものはどれか。 値のほぼ等しい二つの数値の差を求めたとき，有効桁数が減ることによって発生する誤差 指定された有効桁数で演算結果を表すために，切捨て，切上げ，四捨五入などで下位の桁を削除することによって発生する誤差 絶対値が非常に大きな数値と小さな数値の加算や減算を行ったとき，小さい数値が計算結果に反映されないことによって発生する誤差 無限級数で表される数値の計算処理を有限項で打ち切ったことによって発生する誤差 // 解答 ア 解説 値のほぼ等しい二つの数値の差を求めたとき，有効桁数が減ることによって発生する誤差適切です。 指定された…

関連ブログ

0からはじめるトレードBOT•14 日前

数値の表し方(特に小数)

数値の表し方 コンピュータの中で利用される数値には、 1.10進数値 2.固定小数点 3.浮動小数点 の3種類があります。 トレードBOTを書けるようになる上で、実用上浮動小数点は覚えて置いた方がいいので、そこだけ説明します。 それ以外は詳しく説明はしませんが、用語集のリンクを置いておきます。 必要に応じて読んでください。 浮動小数点 例えば、365という数値は、0.356 x 103(^は乗数を表す)と表す事が出来、同じように3560という数字は0.356 x 104と表すことが出来ますね。 これを一般化して、365や3560をNと表して、 0.365をmと表して、 103とか104をd x…

はまやんはまやんはまやん•16 日前

電卓 [第四回 アルゴリズム実技検定 B]

https://atcoder.jp/contests/past202010-open/tasks/past202010_b 解説 https://atcoder.jp/contests/past202010-open/submissions/21465680 まず、Y=0の時はゼロ除算となるので、指定のERRORを出して答えよう。 競プロの問題ではこのようなコーナーケースが存在する場合がある。 今回は問題に明記してあったが、そうでない場合は自分で見つけて、場合分けする必要がある。 本題 小数で表示せよという問題である。 問題にある通りの動作を行って小数で表示しても2桁くらいなら問題無さそうな…

Blog•先月

Rubyで数を扱うクラスについて調べてみた。Float, to_f, BigDecimal, Rational

競プロをやる過程で小数の扱いがあったので深堀りしてみました。 to_fメソッドをデカい小数で扱うときに丸め誤差が出てしまった。 きっかけとなった事例 ABC196 僕が最初に提出したコードは以下 x = gets.chomp.to_f s = x.floor puts s.to_i # サンプルを試す x = 84939825309432908832902189.9092309409809091329 # => 84939825309432916635287552 # 数値が丸まっているため正解できない RubyのFloatクラスについて 浮動小数点数のクラス。Float の実装は C 言語の…

はまやんはまやんはまやん•先月

Round Down [AtCoder Beginner Contest 196 B]

https://atcoder.jp/contests/abc196/tasks/abc196_b 解説 https://atcoder.jp/contests/abc196/submissions/21118594 プログラムは小数を扱うのがあまり得意ではなく、プログラム内部で小数を表現するときは誤差に注意する必要がある。 その辺りの知識を問うような問題。 あまりよく知らない人は「浮動小数点」とか「丸め誤差」とかを参照するといいと思う。 …というわけで、プログラム内部の表現として小数で表現しなくてもいい場合はそういう方針を取ると正確な答えが得られる。 文字列のまま処理する 現実世界で考えると…

sapphire15の日記•先月

ABC196

AtCoder Beginner Contest 196 - AtCoder 全完3ぺナ127位でした。全体的に難しいと感じました。 最初Dに30分以上書けたあげくWAが出たときは焦りましたが何とか全完することができました。 A - Difference Max を最大化するにははできるだけ大きく、をできるだけ小さくしたいです。は今独立に選べるのでの最大、の最小を選べばよく、すなわち答えはとなります。 B - Round Down が非常に大きい可能性があるので、浮動小数点数で扱うと丸め誤差によって正確な処理ができません。 したがって、まず文字列として入力を受け取るとよいです。 小数点以下を切…

Yokaのブログ•先月

C#(.NET)で密行列積を高速化する

はじめに C#で書かれたプログラムはC/C++のそれと比べたら演算速度で劣ります。とはいってもPythonとC/C++間の差ほど開いてはいません。上手に書けばC#でもそれなりに高速なプログラムが書けるはずだと考えています。今回は密行列積を題材にC#(.NET)で出来る限り高速化をしようと思います。なお、私はHPCをしっかりと勉強したことが無い素人なのでここで紹介するコードもまだまだ高速化の余地があると思います。 行列積の難しさ 行列積は物理シミュレーション、人工知能、ゲーム、数値計算などの様々な分野で必要となる極めて基本的な計算です。しかしながら行列積は非常に計算コストがかかります。定義通りに…

HJP.log•先月

Midoを使ってPythonでmidiを読み込む②

前回までで、Pythonでのmidiの読み取りはできるようになりました。 hjp.hatenablog.com 今回はmidiのnote_onメッセージを解析し、トラックの内容を楽譜として取得することに挑戦します。 利用するmidiファイル note_onメッセージ 音と音の切れ目について トラックの内容を楽譜として取得する 利用するmidiファイル 今回も前回と同じmidiファイル（maman.midとします）を用います。この記事の内容を再現したい場合には、MuseScoreで同じ譜面を作成し、midiにエクスポートしたものを使ってみてください。 note_onメッセージ このmidiファイ…

Riguo’s blog•先月

【読書記録】Deep Learning With PyTorch

本の概要 www.manning.com PyTorchの基礎～医用画像解析プロジェクトまでをカバーしている。 以前無料でPDFが配布されていて、そこで入手していた。(もちろん公式のモノ) コード・実行環境 (著者のコードを写経したり少しいじったり、モジュール化して使えるようにしただけなので掲載しない) 実行環境は簡易的に書くと Ubuntu18.04 (on WSL2) Geforce RTX2070(8GB) Docker 20.10.3 CUDA11.0 Python3.8.0 Pytorch1.7.1等 GPUはもともとゲーミング用途で購入した。そのためWindows環境しかなく、デュ…

資格部 📝•2 か月前

基礎科目 令和元年度再試験 Ⅰ-3-3

◀︎ 前へ｜次へ ▶︎️ 数値解析の精度を向上する方法として，最も不適切なものはどれか。 ① 有限要素解析において，できるだけゆがんだ要素ができないように要素分割を行った。 ② 有限要素解析において，高次要素を用いて要素分割を行った。 ③ 有限要素解析において，解の変化が大きい領域の要素分割を細かくした。 ④ 丸め誤差を小さくするために，計算機の浮動小数点演算を単精度から倍精度に変更した。 ⑤ Newton法などの反復計算において，反復回数が多いので収束判定条件を緩和した。 // 解答 ⑤ 解説 ① 有限要素解析において，できるだけゆがんだ要素ができないように要素分割を行った。適切です。 ② …

資格部 📝•2 か月前

基礎科目 平成27年度 Ⅰ-2-1

◀︎ 前へ｜次へ ▶︎️ コンピュータで数値計算を実施する場合に，誤差が生じることがある。いま，0.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると，1にならなかった原因の誤差として最も適切なものはどれか。なお，コンピュータ内部では数値を2進数で扱っており，0.01は2進数では循環小数で表現するものとする。 ① 桁落ち ② 情報落ち ③ オーバーフロー ④ アンダーフロー ⑤ 丸め誤差 // 解答 ⑤ 解説 ① 桁落ち値が近い数値の減算時などに，有効数字桁数が小さくなる現象ですので，不適切です。 ② 情報落ち極端に差異がある数…

資格部 📝•2 か月前

基礎科目 平成26年度 Ⅰ-3-2

◀︎ 前へ｜次へ ▶︎️ 数値解析の精度を向上する方法として，最も不適切なものはどれか。 ① 有限要素解析において，解の変化が大きい領域の要素分割を細かくした。 ② 有限要素解析において，高次要素を用いて要素分割を行った。 ③ Newton法などの反復計算において，反復回数が多いので収束判定条件を緩和した。 ④ 有限要素解析において，できるだけゆがんだ要素ができないように要素分割を行った。 ⑤ 丸め誤差を小さくするために，計算機の浮動小数点演算を単精度から倍精度に変更した。 // 解答 ③ 解説 ① 有限要素解析において，解の変化が大きい領域の要素分割を細かくした。適切です。 ② 有限要素解析…

人生楽しく（知識と知恵と副業）•2 か月前

応用情報技術者試験　問題⑰

Q：ディジタルハイビジョン対応のビデオカメラやワンセグの映像圧縮符号化方式として採用されているものは。A：H.264/AVC[参 平成27年度 秋期 応用情報技術者試験 午前 問25]Q：デマンドページング方式による仮想記憶の利点は。A：実際にアクセスが行われたときにだけ主記憶にロードするので，無駄なページをロードしなくて済む。[参 平成27年度 秋期 応用情報技術者試験 午前 問17]Q：MMU(Memory Management Unit)とは。A：CPUが指定した仮想アドレスを物理アドレスに対応させる。[参 平成27年度 秋期 応用情報技術者試験 午前 問10]Q：CPUのパイプライン処…

totoのExcel備忘録•2 か月前

CDec関数で取得したDecimal型の値が「Variant型以外の型」の変数に「代入」できてしまうという話

今まで、CDec関数の戻り値として得られる十進数型（Decimal）のデータは、VBAの標準データ型に代入できないと思っていました。 Microsoft Docsをはじめ、「Decimalデータ型はバリアント型 ( Variant) のみで使用できます 」と各所で説明されているためです。 ところが、他の記事を書いている最中、CDec関数の戻り値が他のVBAの標準データ変数に何のエラーもなく「代入」できてしまうことに気づきました。 VBAの型システムの仕様を考えたら当たり前なのですが、ちょっとだけショックを受けましたし、Microsoft のレファレンスにすら書かれていなかったので、記事にしよう…

こしろうのエンジニアブログ•2 か月前

チェリー本2章②

丸め誤差初めて知った！ 整数同士の割り算は整数になる to_fで整数を小数にできる 丸め誤差：コンピュータが10進数ではなく2進数で計算しているため起こる誤差 0.1 * 3 #=> 0.30000000000000004 0.1 * 3 == 0.3 #=>false rational(有理数)クラスを使うと、期待通りの結果が出せる 有理数とは、a/b という分数で表せる数のこと 0.1r * 3r #=> 3/10 0.1r * 3r == 0.3 #=>true rationalizeメソッドでRationalクラスの数値に変換できる a = 0.1 b = 3 p a.rational…