小数値を
の各部分に分けて表現したもの。
double型の数値のことを指す事が多い。
基本データ型の範囲について、普通に試験に出るんだよな～いつか覚えよう（1週間前の私） そうだ、いい加減覚えよう ということで、朝から少しまとめてみました。 よくわからない部分もあるけど、とりあえずこれだけ理解しておけば、Java Silverなら何とかなるハズ ■byte、short、int、longbyteの計算例1bitは2通りの値を表現できるので、8bitは2の8乗(2^8) = 256通り256通りを正負の数で表すと-128～128と思いきや、0で表現できる分、1を引いて-128～127 byte 8ビット -2の7乗～2の7乗-1 -128～127short 16ビット -2の15乗…
コンピュータで少数点を含む数値を表現するときに浮動小数点数という表現の仕方があります。 その中でも、IEEE（米国電気電子学会）により規格されたIEEE754の浮動小数点数について解説していきます。 (adsbygoogle = window.adsbygoogle || []).push({}); 基本の浮動小数点数の表現 まず、基本の浮動小数点数の表現の仕方から見てみましょう。 浮動小数点数は「符号」「指数部」「仮数部」の形式で表現します。 32ビットで表現する場合は下記の通りです。 【符号】 【指数部】 【仮数部】 1ビット 7ビット 24ビット 符号は正の場合は0、負の場合は1とする …
こんにちは。たろすです。今回は浮動小数点について説明します。 浮動小数点数 IEEE方式 おわりに おすすめの学習本 浮動小数点数 浮動小数点数は次のような形式で表します。Mを仮数、2を基数、Eを指数と呼びます。また、Sが0のときは1となるので符号は正、Sが1のときは-1となるので符号は負となります。は浮動小数点数で次のように表せます。 IEEE方式 IEEE方式は次のような形式で浮動小数点数を表す方式です。をIEEE方式で表すには次のようにします。1. 整数部が1になるように形式を変える2. 指数部をE-127の形式に変える3.符号をの形式に変える4. それぞれをフォーマットに当てはめる お…
概要 プログラミングの技術書を読んでいると、たびたび浮動小数点数という言葉が登場する。しかし、それに反して、浮動小数点そのものが何なのかについて踏み込んだ説明が少ないように思うので、書き残しておきたい。 動機 プログラミングの講義で小数点以下の20桁を出力せよという課題が出され、double型(Ｃ言語における、浮動小数点の変数のための型)では、無理じゃね？と思い調べ始めたところ、そもそも浮動小数点の規格について理解が浅かったことを思い知らされた。そこで、これについて未来の自分のために書き残すことにする。 内容 float,doubleは浮動小数点数を代入できる型です。と、多くの技術書には平然と…
python 目次 - ray88’s diary ■モジュール全体ではなく特定の関数を指定して読み込むこともできる。 as別名のオプションを追加することで、読み込んだ関数に別名を使て利用することもできる。 ■書式1 from モジュール名 import 関数名 ■書式2 読み込んだ関数に別名を付ける ※モジュール名が長い場合やモジュール名がバッティングしている場合の問題解決の手段 from モジュール名 import 関数名 as 別名 ■読み込んだ関数を使用するには、モジュール全体を読み込んだ時と違い、モジュールを指定せずに関数名だけで利用できる #読み込んだ関数を使う 関数() 【例】r…
python 目次 - ray88’s diary mathモジュール サンプルコード - ray88’s diary 関数 説明 ceil(x) 小数点以下を切り上げて整数にする copysign(x,y) xの大きさで、yと同じ正負の値を作る fabs(x) xの絶対値 factoria(x) xの階乗 floor(x) 小数点を切り捨てて整数にする fmod(x,y) xをyで割った余り。xとyが浮動小数点の場合に用いる fsum(iterable) iterable(タプル、リスト、辞書、集合など）の値の浮動小数点の和 gcd(a,b) 整数aとbの最大公約数 exp(x) 指数関数。…
デモはこちらにおきました。 デモ https://takumifukasawa.github.io/float-to-rgba-tester/ リポジトリ GitHub - takumifukasawa/float-to-rgba-tester: float to rgba tester こちらが計算部分のjavascriptのソースになります。 class FloatPacker { static packToRGBA(num) { const rawR = num * 255; const r = Math.floor(rawR); const rawG = (rawR - r) * 25…
1億年ぶりにfortranを使ったらコンパイルオプションの意味がわからずに整理していなかったことを後悔したので改めて整理しました。 前提として、 ソースはfortran2003をベースに一部fortran2008の機能を含んでいる ifortはLinux版。windows版ではハイフンがスラッシュになったり、区切り文字が違ったり...etc です。 後日CMakeについても同じようにまとようと思います。 gfortran-debug gfortran-release ifort-debug ifort-release 参照サイト:2022-08-11時点 公式系 その他 gfortran-de…
確率を実数で表す 確率は%を使って表すことが多いですが、通常は0以上1以下の実数で表します。 期待値とは 期待値とは、1回の試行で得られる平均的な値のことです。 (ある事象が起こる確率) * (ある事象が起こることで得られる値)を全て足すと、期待値を得ることができます。(ある事象が起こることで得られる値のことを確率変数と言います。) 確率変数とは 確率変数とは、ある値になる確率が決まっている全ての値のことです。 例えば、サイコロを1回投げる試行の場合、1 ~ 6がそれぞれ1 / 6の確率で出るので、確率変数は1 ~ 6の全ての値のことです。コインを1回投げて表だったら1、裏だったら0を得られる…
文書の一覧 JTC1/SC22/WG21 - Papers 2022 mailing2022-07 全部で47本あります。 P0009R18 MDSPAN P1018R17 C++ Language Evolution status 🦠 pandemic edition 🦠 2022/06–2022/07 P1083R6 Move resource_adaptor from Library TS to the C++ WP P1255R8 A view of 0 or 1 elements: views::maybe P1642R11 Freestanding Library: Easy [u…
や、言語関係など覚えたいもの、覚えるべきものはたくさんある一方で、注目が集まっているから、やってみたい。ということでプログラミング言語としてのを学んでいく。1から始める Juliaプログラミング作者:進藤 裕之,佐藤 建太コロナ社Amazon 0. はじめに 1. Julia入門 1.1. Juliaの特徴 1.2 なぜJuliaなのか？ 2. Juliaの言語機能 2.1 演算子 2.1.1 基本的な演算子 2.1.2 複素数 2.2 文字列 2.2.1 文字列の処理 2.2.2 Unicode文字列 2.2.3 文字列の関数 2.2.4 正規表現 0. はじめに スクリプト言語は型を明示せ…
タイプが３つある場合の耐性について知りたい もりののろいを受けるキュレム はじめに ポケモンのタイプは２つ以下です。 これがもし３つだったら、タイプの耐性はどうなるか、気になったので自力で調べました。プログラミング初級者ですが、プログラミングをしました。 一昨年の11月ごろに大元のコードはできて結果も分かっていたのですが、最近これについて興味が再び湧いているので記事にします。タイプが３つのケースについて調べている文献は、現在のタイプ相性表になる前の第五世代時代のもの（ポケモン3タイプ複合弱点の少なさランキング【ポケモンBW・BW2】）しか検索で見当たらなかったのでこれが唯一のものになりそうです…
備忘録です。 jinja2のfilter機能をまとめます。 filter
Keiths' SDRのRx信号処理連鎖ブロック図 LMS_Notchオブジェクト（AudioLMSDenoiseNotch_F32） 役割 信号処理連鎖の更新処理 信号処理連鎖のデータブロック単位の再考 LMSアルゴリズム 歴史 ノイズ除去用FIRフィルタのLMSアルゴリズム 自動ノッチのシミュレーション 音声データ シミュレーションに用いた音声データ シミュレーションに用いたトーンノイズ 自動ノッチのシミュレーション結果 ノイズ低減のシミュレーション シミュレーションに用いた音声データ シミュレーションに用いた白色ガウスノイズ ノイズ低減のシミュレーション結果 ノイズ低減機能の展開 Kei…
いやあ、失敗失敗。 x^3+5x^2+7x+3 を無平方分解しようとして、まず微分すると 3x^2+10x+7 になる。これと元の多項式の最大公約数を求める……って整数係数では無理じゃないですか。有理数係数で考えれば出来るけど、有理数のクラスを作らないとならない。 どうも全部整数係数でうまくいくと思ったのが間違いだったようだ。 最初の多項式は(x+3)(x+1)^2 でそれを微分したものは(x+1)(3x+7)なので、最大公約数(x+1)があるんだけど。有理数のクラスを作らなくても、浮動小数点数で大丈夫かなぁ。最後はぴったり割り切れる必要があるんだけど。 ここさえ乗り切れば……って思うけど、そ…
STREAM DECKについて 拡張キーボードと呼ばれるもので、ボタンにショートカットを割り当てたりできるものです。 Linuxでも使えますが、Linuxで使えるGUIアプリ(streamdeck-ui)がイマイチなので、使う気になれなかった...のですが、Pythonのライブラリがあるので、自分で作れば良くね？と思って、作りました。 作ったもの github.com Linuxで使うようのものなのですが、Active Windowの切り替えにしか、Linuxに依存するコードがないので、もうちょいなんとかしたら良いんじゃないかとも思いつつ、他のOSなら別にこんなものを使う必要もないのだろうと思…
多項式の次数はその項の中で最も次数の高い項の次数とする。プログラムの場合は、配列に係数を入れて、インデックス０の所に定数項を入れ、インデックス1のところに1次の係数を入れというように係数を入れておいて、配列のサイズ-1から逆に配列の内容がゼロかどうかチェックしてゼロでないところがあったら、そこのインデックスを返す。 というやり方でいいかどうか悩むのである。 前回の問題：p(x) = 2x^2+3x+1 と置くと、係数の順番を逆にしたx^2+3x+2はどう表わされるだろうか？ 回答だが、 p(x) = 2x^2+3x+1q(x) = x^2+3x+2 とおいてx^2p(1/x)を計算すると x^…
この記事ではJSONの基礎と、RubyでJSONファイルを扱う方法を紹介します。 1. JSONの基礎 1-1. JSON(JavaScript Object Notation)とは 1-2. JSONの表記方法 JSONのデータ型 1. 文字列(string) 2. 数値(number) 3. 真偽値(boolean) 4. ヌル値(null) 5. オブジェクト(object) 6. 配列(array) 2. RubyでJSONファイルを扱う方法 2-1. JSONファイルを読み込んでRubyオブジェクトに変換する 2-2. RubyオブジェクトをJSONファイルへ書き込む 1. JSON…
今回は調べたわけではなく、「5章 配列の操作」をまとめた内容になります。 ・配列型変数の宣言以下、全部OKint a;int b;int c;int d ;int e;int f; ・宣言時に要素の指定をしてはいけない。int[3] a; はNG配列型変数にはインスタンスの参照が入るだけ。要素がいくつかどうかは無関係 ・配列インスタンスの作成時は、必ず要素数を指定するint a = new int; はNG int a = new int[2]; はOK ・要素数は必ずint型の整数値int a = new int[1L]; はNGint a = new int[1.2]; はNG ・変数とイ…
hnw.hatenablog.com
qiita.com
qiita.com
postd.cc
qiita.com
qiita.com
hnw.hatenablog.com
www.cc.kyoto-su.ac.jp
shogo82148.github.io
