コンピュータ技術者ジーン・アムダールが提唱した、システムの一部を改良したときに全体として期待できる性能向上の程度を知るための法則。
はじめに おそらくもっとも有名なソフトウェア工学の原則の1つに、DRY（Don't Repeat Yourself）原則があります。DRY原則は、同じコードを何度も書かないようにすることを目指しています。この記事では、DRY原則の重要性とそのトレードオフについて考えてみます。 参考 ソフトウェア設計のトレードオフと誤り DRY原則とは？ DRY原則（Don't Repeat Yourself）は、ソフトウェア開発における原則の一つです。 重複したコードを避け、同じコードを複数の場所で書かないようにすることを推奨しています。 DRY原則を遵守することで得られる主なメリットは次のとおりです。 保守…
近年、大規模な人工知能（AI）モデルは、自然言語理解、クロスメディア処理、および一般的なAIへの進歩の可能性において顕著な能力を持つため、AIコミュニティ内で大きな注目を集めています。業界をリードする著名な大規模モデルのパラメータ規模は、数兆から数十兆の注文に達しています。 2023年、ChatGPTという名の注目すべきAI製品が人気を博し、会話、コード生成、質問応答、小説執筆の能力を披露しました。GPT-3.5の基礎技術は、1750億のパラメータを誇り、細かく調整されたGPT-3.5大規模モデルに基づいています。報告によると、GPT-3.5のトレーニングには、マイクロソフトが構築した専用のA…
応用情報の勉強で得た知識のアウトプット用です。 MIMD Multiple Instruction Multiple Dataの略。異なるデータに異なる命令を実行する。 ex）MPP（Massively Parallel Processor）：超並列コンピュータ 密結合マルチプロセッサ 複数のプロセッサが主記憶を共有している。単一のOSによる制御を行っており、プロセッサの数が多すぎると競合が発生しやすくなる。 疎結合マルチプロセッサ 各プロセッサに主記憶とOSが割り当てられる。競合が起きにくい反面、構成が複雑になりやすい。 アムダールの法則 高速化率Eは以下の式で決まり、ある一定以上の値にはな…
ディスクの問題 p231 平均シーク時間 + 平均サーチ時間 + 転送時間 平均シーク時間が20ミリ秒 ディスク回転が5000回・秒 1トラックが15000バイト この時、5000バイトを読み込む平均アクセス時間は？ 平均シーク時間はそのまま。 ディスク回転一回は何秒か？ 5000 : 60000 ＝ 1: x x = 12 平均は6秒。 一回転 12秒。 12秒で15000バイト読み込む。 x秒で5000バイト読み込む。 12: 15000 = x : 5000 x = 4 4秒で5000バイト。 20 + 6 + 4 で30秒。 変動費率 p904 Society 5.0 CPSサイバーフ…
ウォークスルー 作成者・開発者と、外部の人間でレビューをすること。 サンドイッチテスト またの名を折衷テスト。トップダウンテストとボトムアップテストを組み合わせる。 とっぷだうんてすとは上位モジュールからテストしてく。その際に下位モジュールは出来ていなかったりするので、そうした場合はスタブというものを使う。 ボトムアップテストは下位モジュールからテストしていく。その際に上位モジュールが出来ていなかったりする、そうしたときはドライバを使う。 デルファイ法 複数の人に個別にアンケート調査を行う。で、その結果をアンケートした全員に見せて、もう一回アンケートを行う。 というのを繰り返し、答えが収束して…
この記事は IPFactory OB Advent Calendar 2023 15日目の記事です。 qiita.com こんにちは、ふたばとです。 富岳のようないわゆるスパコンでパソカタをしていくには、並列計算の技法に関する知識が必要になってきます。 本稿では、並列計算の概要と OpenMP を使ってマルチスレッドでの並列計算を見ていきます。 手っ取り早く並列計算をしたい場合には OpenMP でシュッとするのはいいのですが、大規模に並列させるには MPI(Multi Process Interface) を使うのが基本になります。 今回は OpenMP のマルチスレッドの話にはなりますが、…
いつか読み返した時に前日譚となるブログ。 この2ヶ月間勉強してきた応用情報技術者試験、ついに明日2023/10/08(日)が試験日だ。 相変わらず過去問ばかりやっていて、それが王道かつ正道であることに変わりはないが、一応、久しぶりに参考書を頭から舐めて単語集のチートシートを作ってみた。 単語を見て、内容を軽く誦んじられればok。 敢えてどのカテゴリに属する単語かは書いてないし、過去問に全然登場しないものも多いし、私の認識として怪しい部分だけ箇条書きにしているので万人に使えるものではないが、記念に公開しておく。 【応用情報技術者試験_午前問題チートシート】 基数変換 1の補数、2の補数 左論理シ…
アムダールの法則とは？ 「アムダールの法則（Amdahl’s Law）」は、コンピュータ科学と並列処理に関連する重要な原則の一つです。ジーン・アムダール（Gene Amdahl）によって1967年に提唱されました。この法則は、計算タスクを並列処理に分割する際に、並列化によって得られる性能向上の限界を示すものです。 以下に、アムダールの法則の詳細な説明を提供します。 アムダールの法則の公式 アムダールの法則は、次の数式で表現されます。 \[S_{\text{total}} = \frac{1}{(1 – P) + \frac{P}{N}}\] ここで、\(S_{\text{total}}\) は…
ここの続き。 donbulinux.hatenablog.jp 基本的にまず以下を読むといい。 翻訳されているので、だいたい抑えるべきことが書いてある。 techracho.bpsinc.jp その後に以下を。 re-engines.com qiita.com tech-book.precena.co.jp 具体的にどうする とりあえず以下のようにして、あとはメモリをたくさん積む、くらいの単純な話におちついた。 スレッド数については固定で 6 にしている。 worker (v)CPU 数と同値〜 1.5 倍、最小は 2 から始める thread 5 or 6 techracho.bpsinc.…
4 章 エラー システムで発生するエラーを回復可能なものと不能なものに分類して、それぞれがどういうものなのかを説明した章。 実装する際に、回復可能なエラー (回復することが期待されているエラーも含む) をどう扱うかコードベースで話してる。 まず回復可能性について。 回復可能なエラー ネットワークエラー 深刻ではないタスクエラー 回復不能なエラー コードと一緒にあるべきリソースがない 他のコードを誤用している 回復可能なエラーの説明はわかりやすかった。 例えばネットワークエラーとか、クラウド上でアプリケーションを構築していると実装時に考慮する事が多い。一時的なネットワーク障害とかトラフィックの増…
*1\r\n\r\nここで、fは最適化された部分の実行時間の割合を示し、sは最適化された部分の速度向上倍率を示します。\r\n\r\nアムダールの法則は、並列処理や最適化の効果を考慮する際に重要な指標となります。全体の実行時間を短縮するためには、最適化できる部分を見極めて効果的に取り組む必要があります。"}" data-sheets-userformat="{"2":7041,"3":{"1":0},"10":2,"11":4,"12":0,"14":{"1":2,"2":0},"15":"Arial, sans-serif"}">アムダールの法則（Amdahl's Law）は、コンピュータの…
2008年の春ごろに物理シミュレーションにハマっていて、粒子法を使った流体計算をがんばっていたのです。 そのコードの並列化できる部分を並列化して、ちょっとだけ高速化しました。 こんな感じのシミュレーションです。これは10倍速にしています。 10倍速でざっぱ～んってなるやつ pic.twitter.com/xTF8cg9X1W— きしだൠ(K1S) (@kis) 2023年4月30日 2008/4/7くらいから始めている。 https://nowokay.hatenablog.com/entry/20080407/1207523850 4/10になんか動いている。この時点では、まだ爆発してるみた…
ja.wikipedia.org
kensir0u.hatenadiary.org
u-ff.com
www.hpcwire.jp
