指数表記

Excel で、８桁を超える数値を指数表記ではなく、そのまま８桁で格納、 これを Apache POI で読み込むと、 org.apache.poi.ss.usermodel.Cell は、 toString() では、指数表記になる。 10000000 → 1.0E7 つまり、double 型を toString() した場合と同じ。Apache POI では、数値は全て CellType は、NUMERIC で getNumericCellValue() メソッドで double として読み込むしかない。８桁以上の数値を指数表記でない文字列表記したければ、一旦変換するしかない。 以下 ce…

浮動小数点 (floating point number) 循環小数による誤差 指数表記（E 表記） 浮動小数点型（float／double／decimal） float double decimal 注意 小数の一致判定 実験 キャストの処理時間 浮動小数点 (floating point number) 表現方式 小数点の位置 利点 欠点 浮動小数点 可変 表現できる範囲が広い データ解析に処理時間が必要 固定小数点 固定 ↑と逆 ↑と逆。単純なので高速 コンピュータ上で "小数" を表現する方法の一つ。 "IEEE 754" で標準化されている。 浮動小数点は、"符号、仮数、指数" で表…

本日はJavaScript数学のお時間となります。 これは人によって得意、不得意が分かれるかと思います。 ですが世界中の誰もが数学は私たちが生きていく上でなくてはならない、基本的な部分であることを否定することはできません、それは事実です。 これはJavaScriptまたはプログラミングに関わる、その他言語でも当てはまります。 ですのでまずは基本的な数値の操作を学びましょう。 数値型と演算子 数値の定義方法 10進数 指数表記 加算 割り当ての連鎖 減算 インクリメント・デクリメント 乗算 除算 剰余 べき乗 無限を表す 浮動小数点の操作 NaN JS数値メソッド 数値を文字列に変換 isFin…

2019-10-12 にも書いていたのだけど、 java.math.BigDecimal の equals および toString をまた踏んだのでメモしておく。 Java には java.math.BigDecimal という任意精度の 10 進数を扱うクラスがある。 https://docs.oracle.com/en/java/javase/17/docs/api/java.base/java/math/BigDecimal.html お金などを浮動小数点数で扱うと端数処理などの誤差が危ないのでこういったクラスを使うことが多い……はず。 で落とし穴っぽい動きがあるのでメモしておく。これ…

Ayanoさんと話していたときに言った「VRChat上でASEっぽいのができる仕組み」、作ろうと思ってたんですが時間がなさそうなので頭の中の設計だけ置いておこうと思います。 特に私の確認なく作って頂いて良いし、好き勝手すればいいと思います (当然)。作らなくても良いです。 まぁ、あと「実装なき設計」をそのまま出力したこと今までなかったので、それはそれで面白いかな、という実験でもあります。 概要 unitypackageの形で、VRChat上でノードを操作 (機能を変更・In-Outを結合/削除・パラメータを変更) してシェーダプログラムを表現・実行する仕組みを提供します。 prefabぽん置き…

もうみんなは計算に慣れたかな？ん？ 前回のこと？ なんのことかしら。 嫌な夢だったね。(誤植も多かったし)さあ、計算に慣れたみんなに例題だよ。\begin{eqnarray*} (1\oplus 2)\otimes (1\oplus 2) \end{eqnarray*}はい。つまり$(1\oplus 2)^2$ということです。\begin{eqnarray*} (1\oplus 2)\otimes (1\oplus 2)&=& max(1,2)+ max(1,2)\\\ &=&2+2\\\ &=&4 \end{eqnarray*} ですね。もっと細かくちゃんと分配法則を使っても同じ結果になりま…

TextBlock.Textに文字列以外をバインドすると、文字列に変換してから表示されます。文字列への変換にはバインド先オブジェクトのToString()が使われますが、書式を指定することもできます。 <TextBlock Text="{Binding CurrentTime}"/> <TextBlock Text="{Binding CurrentTime, StringFormat=Current time \= {0:MM/dd}}"/> StringFormatの有無による違い 目次 書式指定方法 複数個所で同じ書式を使うにはリソースに定義する 書式指定方法 double型のプロパティ…

TL;DR LoRa は最大数kmの長距離でセンサデータ等の通信ができるとされている通信方式です。 実際にGPSで取得した現在位置を送信するノードをArduino MKR WAN 1310を使って作成し、都市部(東京23区内)でこれを持ち歩いた時にどのくらいの距離まで通信できるのかを調べてみました。 通信距離はアンテナ設置状況で大きく変わるものです。今回はビルの窓にアンテナを貼り付けた程度の非常に簡易的なセットアップでしたが、それでも800m程度離れた場所でもデータを送信できることを確認できました。 LoRa / LoRaWANについて LoRaは、LPWA(低消費電力・長距離)通信のための方…

try文 try: 例外処理の対象処理 except 例外: 例外が発生した際の処理 except: 上記以外の例外が発生した際の処理 exceptで例外を指定しない場合はすべての例外に対して機能する input（ 端末からの入力 ） input( "端末に表示する文字列" ) 返り値は文字列となる 文字列⇔数値 int() float() str() 文字列の結合と繰り返し 文字列の結合 "Hoge" + "Huga" # "HogeHuga" "Hoge" + str(10) # "Hoge10" 文字列の繰り返し "Hoge" * 3 # "HogeHogeHoge" format 文字…

NPBの年間観客動員数は2013年から増加しているらしい*1。もう少し細かいデータを見てみたいなと思ったのでスクレイピングでNPBの年間観客動員数をRを使って取得して、前処理までしたので記事にしてみました。 今回スクレイピング対象のページはこちらです。 ※ Jupyter notebookで行っているためもしかしたらRstudioだとエラーが発生するところがあるかもしれません 必要なライブラリの読み込み library(tidyverse) library(rvest) library(glue) library(scales) tidyverse データサイエンス用に設計されたパッケージ群で…

浮動小数点のメリット 指数表記 2進数と指数表記 float型 double型