小数点

あらいくまたんです。 《＾=・(⊥)・=＾》 小5になった鉄くん。 松江塾でちょっと先取り。 小数点のある掛け算、割り算のやり方に 慣れてきたところ。 まだ、あまりの小数点処理を忘れちゃうけど💦 でも、筆算が大っ嫌いだから、 最低限以上の練習は、してくれない。 学校の宿題で、計算ドリルが 小数点のある足し算だった。 なにか、おかしい。 筆算を書いた時点で、 小数点の位置があってない💦 そうしたら、計算する前に鉄くんから 🚆これって、どっちにあわせるの？ 🐻どっちじゃなくて、小数点の位置を二つともそろうように書くんだよ。 🚆⚡⚡だからそうじゃなくて！！！⚡⚡ ⚡⚡どっちに合わせるかって聞いてるの…

こんにちは、iimonの山根です。 本記事はiimonアドベントカレンダー24日目の記事となります。 クリぼっち確定です、喉を痛めたのが原因なので本当はクリぼっち回避できましたよ😷 それでは本題に入ります。 背景 jsで10.12*10000が101199.99999999999になってしまいました。 このようになった理由を知り、正しく計算する方法を理解する為です。 なぜ JavaScript の数値 (Number) 型は IEEE 754 の倍精度 64ビットバイナリー形式です。 IEEE 754 の倍精度数 3 つの部分を表すのに 64 ビットを使用します。 倍精度浮動小数点数 (htt…

元・水の分析屋さんの公務員生活が始まったころ、担当する仕事の予算は「千円」単位で処理していました（83,000 円 → 83 千円）。たくさん積み重ねると痛い目に遭うこともありますが、とりあえず450円とかには目をつぶる仕組みです。もう少し広範囲の業務をまとめる立場になると「百万円」単位の予算資料を作り、ときには「十億円」単位で書かれた資料も目にするようになる。「大体の数」だから仕方ないのですが、十万円くらいのお金は端数、誤差範囲。で、東京都や国の省庁の予算規模なら「兆円」単位です。12/17 の記事に書いた日経新聞の見出しは、千億未満を切り捨てちゃいました。大谷選手の契約金でも端数扱いギリギ…

この130.68円というお値段はどやって支払うのでしょう？？？？

やりたいこと 課題 結論 number_formatとsprintfの挙動 number_format sprintf やりたいこと ある桁数以下は切り捨てて、それより上の桁数で値を返したかった。 例えば、小数点第三位以下は切り捨てて、小数点第二位までを返したい。 課題 ググると、 floor と sprintf と number_format があるよう。 floor だと小数点以下の切り捨てて整数にするのみで、桁数の指定はできない。 sprintf と number_format なら、小数点以下の桁数を指定するだけなので簡単そう！と思ったが、よくよく調べてみると、なぜか四捨五入されてしま…

円周率の小数点以下の数字のなかに数字出現を探すというマニアックな計算数学の分野というか、ホビーがある。アンチキリストの象徴になる数字「666」が小数点の何番目にある、ようなホビーであります。ホビーというより数秘学でしょうかね。 自分も９の系列を探しみた。 9, 99, 999, 9999, 99999, 999999,......,999999999までの数の列、９が1つから９つの連続出現まで、最初に出現する桁数をだすのだ。 円周率の最初の100桁までの展開を示す。その中で9と99は太字で示した場所に現れる。9は5番目、99は44番目となる。 3.14159265358979323846264…

この記事では、VBAで数値を小数点表示に変更する方法を紹介しています。 VBAで小数点表示する方法は2点あり、それぞれの使い方と使い分け方法についても紹介します。 目次 「#」を使って表示する方法 「0」を使って表示する方法 「#」「0」の使い分け 関連記事 参考書籍 「#」を使って表示する方法 プログラムの一例 Range("B2").NumberFormatLocal = "#.#" 表示例は以下の通りです。 =の後ろの値 表示結果 ”#.#" 123.4 ”#." 123. ”#.##" 123.4 「0」を使って表示する方法 プログラム Range("B2").NumberFormat…