丸め誤差

概要 組版における「ベタ組み」を実現するため、pt単位で用紙設定を行う 設定 フォントサイズ設定 標準スタイルのフォントサイズを、任意の値に設定する。 余白設定 レイアウトタブ＞ページ設定（ページ設定ダイアログを開く） ページ設定ダイアログ＞余白タブ 左右余白合計 ＝ 字送り方向の用紙サイズ −（文字サイズ ✕ 1行の文字数） 左右の余白は適当に割り振る ※上記は横書きを想定。縦書きの場合は左右を上下に読み替える。 JIS規格用紙サイズ（pt単位） A5：短辺 419.6pt / 長辺 595.3pt A4：短辺 595.3pt / 長辺 841.9pt A3：短辺 841.9pt / 長辺 …

はじめに 今回も引き続き「SQLアンチパターン」を読み進めていきます。 今回から第二部「データベース物理設計のアンチパターン」についてまとめます。 ラウンディングエラー(丸め誤差) 目的: 整数の代わりに小数値を使用する 小数を扱いたい場合、かつ計算の精度が求められるパターンを想定。 アンチパターン: FLOATデータ型を用いる 問題点 「10進数で記述できるすべての値を、２進数として格納できるわけではない」 丸め誤差が発生して計算の精度に問題が発生する。 また、和を計算するより積を計算する場合に誤差累積が大きくなり問題となる。 丸め誤差 参考: https://gihyo.jp/dev/se…

アップルペイじわり普及 秘訣は忍耐 素早く動いて創造的に破壊したい企業が集まるシリコンバレーでは、忍耐はことさら受けのよい美徳ではない。 アップルが2014年に新サービス「アップルペイ」を発表した当日は何の破壊も起きなかった。破壊の質がそのスピードで評価されるとすれば、同社が発表した華やかなイノベーションは期待外れと判断されていただろう。アップルペイの普及が予想よりも遅れている中で、アップルペイの登場で財布が不要になると言われてもばかばかしいとしか思えなかった。ウォール街のアナリストもiPhone（アイフォーン）のユーザーもその後数年は疑わしいと思っていた。クレジットカードのユーザー体験もアッ…

Bill Karwin, 『SQLアンチパターン』, オーム社 を読む。 概要 論理設計のアンチパターン １．Jaywalk（信号無視） 問題点 改善案 ２．Naive Tree（素朴な木） 問題点 改善案 備考 ３．ID Required（とりあえずID） 問題点 改善案 ４．Keyless Entry（外部キー嫌い） 問題点 改善案 ５．Entity Attribute Value（エンティティ・アトリビュート・バリュー） 問題点 改善案 ６．Polymorphic Association（ポリモーフィック関連） 問題点 改善案 ７．Multicolumn Attribute（複数列属性）…

久しぶりにExcelの丸め誤差に苦しみました。バージョンはExcel 365 バージョン 2206 32bitです(客先が32bitなもので) ちょっとややこしい計算式を設定するVBAを開発したのですが、ユーザーからエラーメッセージが表示されると連絡があり、対象のExcelファイルを参照すると、とあるセルに"-2E-15"というありえない数値が。 "数式の検証"機能で1ステップづつ計算していくと・・・ 初期状態。"数式の検証"が無かったら計算式のセルを小分けしているところです。 途中を省略。ROUNDDOWNで15の少数部を切り捨てて15です。 15-15=0ですよね・・・ ！？ といった感じ…

今日は朝から大学へ．昨日の昼寝の影響か，今朝は6時半に目覚めました．調子も良かったので早々に家を出て大学で作業をすることに． 休日は特にお弁当を考えるのが面倒だったりします*1．最近は電子レンジで素麺やうどんが茹でれる容器を買ったので，院生室で麺類を中宿にすることが多いです．今日もそんな感じでうどんを食べることに．それだけだと少ないので，今日は行きしなにおにぎりを買いました．通り道におにぎりやおかずを専門に販売しているお店があって以前から気になっていました．鮭とチキン南蛮のおにぎりを1つずつ買ったのですが，どちらも美味しかったです．具材によって塩加減が変えられている気がしましたが，気のせいかも…

今回も，ランダムウォーク解析についてです．ランダムウォーク解析 (fluctuation analysisと呼ばれることも)は，Natureに出版された論文でも使われています (以下のリンク)． www.nature.com とはいえ，ランダムウォーク解析は，今では実用的な時系列解析法とはいえません．それでも，教育的な題材としては役に立ちます．以下では，ゆらぎ関数とパワースペクトルの関係を導いていきます．前回の記事は，これです． chaos-kiyono.hatenablog.com 基本事項の確認 1. ラグオペレータを，時系列に作用させると， ， となります．つまり，が1つかかるごとに，時…

はじめに 前回の記事では、傾向スコア(Propensity score)による逆確率重み付け法(Inverse probability of treatment weighting; IPTW)をRで行うためにIPWパッケージを用いました。実は、傾向スコア法による解析を行うためのRのパッケージはたくさんあり、僕自身どれを使えばいいのかいまいちよくわかっていません。 例えば、後述するPSweightパッケージのチュートリアルペーパーでは、重み付けを行えるパッケージだけでも少なくとも9つがあることが述べられています。そこで今回は、その中で比較的目にすることの多いパッケージ3つを紹介し、サンプルデー…

1. Gaussian Blur (一) ―― 基礎アルゴリズムとその実装 1.1 基礎知識 ガウシアンぼかし(Gaussian Blur)は、Gaussian Smoothingとも呼ばれ、画像をぼかすための典型的なアルゴリズムです。ガウシアンぼかしは、簡単に言うと、画像全体を加重平均する処理で、各画素値は自身とフィールド内の他の画素値の加重平均で得られます。 ガウシアンぼかしのアルゴリズムに入る前に、畳み込み(Convolution)演算を理解する必要があります。ここでは、行列の畳み込み演算プロセスを簡単に説明します。具体的な畳み込み演算については、関連資料を調べてください。 処理する行列…

本日はJavaScript数学のお時間となります。 これは人によって得意、不得意が分かれるかと思います。 ですが世界中の誰もが数学は私たちが生きていく上でなくてはならない、基本的な部分であることを否定することはできません、それは事実です。 これはJavaScriptまたはプログラミングに関わる、その他言語でも当てはまります。 ですのでまずは基本的な数値の操作を学びましょう。 数値型と演算子 数値の定義方法 10進数 指数表記 加算 割り当ての連鎖 減算 インクリメント・デクリメント 乗算 除算 剰余 べき乗 無限を表す 浮動小数点の操作 NaN JS数値メソッド 数値を文字列に変換 isFin…

みなさん久しぶりです!(・ω・)ノ あかげふです。 最近は専ら三角関数計算機にリソース全振りして制作してましたが、最新のupdateによるRender Dragonへの仕様変更により計算機開発環境を潰されたのと製作中の端末が限界を迎えつつあるので究極の三角関数計算機を作る野望は一旦損切りで打ち切りを決断しました。リソースを2ヶ月全振りしたにもかかわらずプロジェクトをお蔵入りに飛ばすのは流石に私の精神がズタズタになるので進捗報告して退去します(解決策とモチベが見つかったら帰ってくると思います) 信号強度をカラフルにするリソースパックを新versionで作成してくれる方がいたならば再開を考えようと…