桁数を省くことによって生じる誤差。
今回はITパスポートという国家試験の対策用語を一部抜粋してまとめました。 ブログというよりは、Twitterのメモみたいな感じです。 ブログだと思った人や、興味のない人はすいません。 次回からは普通に文章書きます。企画だと思ってください。 IT・・・ Information Technology の略です。情報技術という意味です。 IoT・・・Internet of Things インターネットに接続するものすべて 例えばパソコン、スマホ、カーナビ、家電等・・・。 // システムの要件定義 例えば、帳票を提示します。必要なデータ、その意味、処理対象など明確にする必要があります。 システム開発に…
概要 fluentbit.io fluent-bit には Lua スクリプトでfilterできるプラグインがあります。 これを使うと、下記のようなことができます。 recordに情報を追加する 特定の条件にマッチしたrecordをフィルタする record内の特定の情報を削除する 目次 概要 目次 使用方法 制約 luaスクリプト側の仕様 使用例 時刻情報をrecordに加える configuration input output タグをrecordに加える configuration input output 特定のkey/value ペアを削除する configuration input…
丸め誤差 数値を有限ビット数で表現するため、最下位けたより小さい部分について四捨五入や切上げ、切捨てが行われることにより発生する誤差 情報落ち 絶対値の非常に大きな数と小さな数の加減算を行ったとき、指数部が小さいほうの数の仮数部の下位部分が計算結果に反映されないために発生する誤差 けた落ち 絶対値のほぼ等しい２つの数の差を求めたとき、有効けた数が大きく減るために発生する誤差 打切り誤差 浮動小数点数の計算処理を途中で打ち切ることによって発生する誤差
はじめに TECH CANPというプログラミング教室に通っているシゲです。 未経験からプログラミングを学んでおり、本ブログにてアウトプットしていく予定です。 Rubyで数字を扱った際に気を付ける必要があることを纏めました。 文字か数字か Rubyではコードの記入方法により、数字として扱われたり、文字として扱われます。 足し算等を行う時に、「文字 + 数字」としてしまうとエラーとなってしまいます。 下記に参考コードを纏めます。 10.to_s + 10.to_i => TypeError (no implicit conversion of Integer into String) 文字として扱…
競技プログラミングに取り組む中で，浮動小数点計算の誤差が重要になる問題に出くわしました． ここで一度まとめておきたいと思い，記事にしました． ※わかりやすさ重視で書いているので厳密性には欠いているかもしれません． 明らかな間違いがあればご指摘ください． そもそも浮動小数点とは？ 浮動小数点数（ふどうしょうすうてんすう、英: floating point number）は、浮動小数点方式による数のことで、もっぱらコンピュータの数値表現において、それぞれ固定長の仮数部と指数部を持つ、数値の表現法により表現された数である。 ↑はWikipediaからの引用です． 簡単に言うと【仮数】×【基数】^【指…
JavaScriptの勉強をしたくて読んでる。英語なので時間がかかってるけど、良い本だと思う。 www.oreilly.com 以下、読んだところを読み直しながら何回かに分けて自分用にメモを残していこうと思う。 ## Ch.2 Lexical Structure return, break or continue のあとに式が続くときには改行を入れたらダメ。へー。 function sample() { return true; } console.log(sample()); これは return; true; と解釈されて undefined になる。 ## Ch.3 Types, Val…
はじめに 実計算に誤差はつきものである。 誤差にはいくつか種類があり、それは計算機に特有のものもあれば、そうでないものもある。 まず背景知識として、計算機での数値表現を説明する。 その後、数種類の誤差を紹介し、それぞれの例と対策を簡単に考える。 最後に誤差対策に使えそうな手法をいくつか紹介する。 計算機上での数値表現 int 型 http://www.kab-studio.biz/Programing/JavaA2Z/Word/00000249.html 固定小数点 http://www.kab-studio.biz/Programing/JavaA2Z/Word/00000148.html …
サマリ 動機 アルゴリズムの基礎を理解する。PythonはComputer Science,Data Scienceと相性がいいから。 感想 人間がコンピュータにやらせたい仕事は何なのか？手動で行うことの困難さは何なのか？を考えると、なぜこの形式で運用しているのかが理解できるようになる。 最初の方を読み返すと、「コンピュータは何が得意で何が苦手かを学ぶ」ことが目的と書いてある。CSの入門として良い問いの立て方だなと思う。 学んだこと はじめに さらっと書いてあるけど、本当にそう。 現代において情報科学の基礎は必須の教養となっているが、〜 Pythonは始める敷居が低いので、「アルゴリズムを学ぶ…
本日は会社の運営(オペレーション)についてお話ししたいと思います。 これまでの講義をいくつか見てきましたが、ここまで学んできた皆さんは非常に有能な人材を多数採用し、少なくとも一部の人に愛されるプロダクトを作り、願わくはいくらかの資本を集めて起業しようとしていると思います。プロダクトを開発し、会社を設立しようとしていると思います。 会社作りはプロダクト作りより困難 そこで私が申し上げたいのは、会社作りはプロダクト作りより遥かに困難であるということです。その基本的な理由は、人は実に不合理なものだからです。 そのことは私たち自身がよく分かっていると思います。皆さんの両親や配偶者、恋人、兄弟、姉妹、先…
