Kubernetes

client-goで単体のリソースを作成する場合は以下のように明示的に対象のclientを作成することで行うことができます。 func main() { ... deployment := &appsv1.Deployment{} deploymentsClient := clientset.AppsV1().Deployments(apiv1.NamespaceDefault) result, err := deploymentsClient.Create(context.TODO(), deployment, metav1.CreateOptions{}) } しかし、このやり方だと以下の…

はじめに SRE チームの川又です。 Volterraはグローバルで優れたEdge-as-a-Service プラットフォームサービスを提供する事で注目を集めています。 先日、F5, Inc. に買収された事でも話題になりました。 一方、弊社intdash の一部を構成する intdash Server は基本的にクラウド上で動作させます。 ですが、お客様の要件によってはEdge 環境で動作させる事もあります。 SRE チームの検討課題の1つとして、Edge 環境における効率的なサーバアプリケーションの管理・提供 があります。 以上の背景から、今回はVolterraのサービスプラットフォーム上…

Kubernetes で PodDisruptionBudget (PDB) を使うと，kubectl drain コマンドでノードをドレインするときなどに Kubernetes クラスター内に起動しておく「最低限必要な Pod 数」を設定できる．よって，Kubernetes を使ったサービスの可用性を高める戦略としてよく使われる． 以下のドキュメントを読むと「自発的な混乱 (Voluntary Disruptions)」と「非自発的な混乱 (Involuntary Disruptions)」という表現があり，既に紹介した「ノードをドレインするとき」は，管理者が運用として「自発的に」行うため「…

kubectl コマンドを使って Label（ラベル） や Annotation（アノテーション）を削除する場合，削除用のオペレーションはなく，キー名の末尾に - を付けて登録をする必要がある．具体的には bar- や description- というキー名を指定すると削除できる．以下のドキュメント「kubectl Command Reference」にも載っている．今回は kind で構築した Kubernetes v1.19.1 のクラスターを使って検証した内容をまとめておく！ $ kubectl label pods foo bar- $ kubectl annotate pods fo…

HPAの設定ではDeployment単位で閾値を指定しているのに、扱うリソースはPodなので少しわかりづらいとおもったので、複数コンテナを有するPodに対してHPA設定をかけた場合の計算ロジック（詳細版）をまとめました。 HPAのreplicaset数算出方法を整理 公式を眺める 複数コンテナを持つPodだと、「Podが利用しているリソース」はどう計算されるでしょうか。 以下、メモリについて考えてみます。 公式を参考にすると、以下のような計算式になる。 HPAの計算方法 数式をみるとウッ頭痛が...!となる人向けに少し解説します。 どちらもシンプルです。 podUsage でやっていることは、…

この本を読んだメモ。 イラストでわかるDockerとKubernetes Software Design plus作者:徳永 航平発売日: 2020/12/05メディア: Kindle版 Docker/Kubernetesは仕事で使っているものの、きちんと勉強したことがないなと思ったので、まわりで評判の良かったこの本を丁寧に読むことにした。 本の感想 Docker使ってると「レイヤ」って言葉を見るけど、そのイメージがついた。イラスト付きでしっかり解説してくれるのはありがたい。 CRIランタイム/OCIランタイムって言葉をよく見かける。こないだも見た。これの意味を理解した。 CRIランタイム: …

YAMLベースのドキュメントのコードレビューって、フォーマットのズレや期待していない値かどうかの確認で不備を見逃してしまい、あとあとリリース時の kubectl apply -f manifest.yaml などでうまく実行できずに焦ることが経験上、多いです。 今回はコードレビューをする前に機械的にmanifestをバリデーションしてくれるツールである kubeval について、Macへの導入を試します。 kubevalをインストール kubeval とはkubectlを使わずにmanifestファイルをバリデーション（規格にあった構成かどうかをチェック）するツールです。Linuxをはじめ、M…

ラベルを使ってPodを世代管理しておくと、Serviceを更新するだけでリリース（トラフィックルーティングを切り替える）を行なうことができて便利です。 要約 実装 Podにラベルを付与し、バージョン管理を行なう（dockerimageのタグと一致させておくとミスリードを減らせることが多いのでおすすめ） バージョンごとにDeploymentを用意し、複数バージョンがRUNNINGの状態をつくる Serviceでトラフィックを流すPodを切り替える メリット アプリケーションのデプロイとサービス公開の作業を分離できる Service（L4レイヤの設定）を切り替えるだけなので影響範囲・切り替えコスト…

Kubernetes で kubectl drain コマンドを実行すると，指定したノード上の Pod を安全に削除して，そのノードには新しく Pod をスケジューリングしないようにステータスを変更できる．例えば，Kubernetes クラスターの運用として，ノードをメンテナンスするときなどに kubectl drain コマンドを使う．詳しくは以下のドキュメントに載っている． Safely Drain a Node | Kubernetes Kubectl Reference Docs 今回の記事では kubectl drain コマンドの挙動やオプションを試しながら理解を深めていく．以下は…

用語 Namespaces Podを外部公開する Origin Pool Origin Poolの設定 Site内のネットワークトポロジー singleNICの場合 Multi NIC(以上) の場合 Clusterに対するVIP Site間のトポロジー Regional Edge(RE)の接続 Site-Site間の接続 仮想ネットワーク Network Interface Siteに仮想ネットワークを設定する Network Connector ローカル仮想ネットワーク グローバル仮想ネットワーク ゼロタッチプロビジョニング OSについて 実際にAWSにAMIで起動してみた いろいろコマン…

qiita.com ここの話です． github.com Issueの内容を熟知している方には余計なお世話です． いやーこんなの自分には関係ないだろうと思ってたら見事に当たりました． 問題になるケース 問題になるケースはおそらく以下の2パターン． OwnerとChildが別のnamespaceに所属するパターン namespaceに所属するOwnerがcluster scopeなChildからOwnerReferenceを張られているパターン ちなみにこれは作成時にエラーになるわけではない．あくまでGCコントローラの挙動の変更なので，リソースが削除される挙動が変更になっている． 私の場合2に該…

はじめに Self-Managed NodeGroupをもったEKSクラスタにおいて、クラスタのオートスケールが起きたときのどのNodeGroupが拡張されるのだろうと疑問に思ったので調査した忘備録になります。 Expandersを使って解決する 下記ドキュメントのPrioritizing a node group or Auto Scaling groupにあるように、ある程度はコントロールできるようです。 docs.aws.amazon.com Expandersの説明はGithubにあります。オプションは下記記載があるのですが、priceはGKEでしか使えないとのこと。 EKSのドキュメ…

はじめに KubeCon NA 2021のスケジュールが公開されました。 [NEWS] #CNCF Shares Schedule for #KubeCon + #CloudNativeCon Europe 2021 – Virtual 🎉Join us from May 4 – 7 as experts deliver hundreds of sessions, keynotes, lightning talks, breakouts, maintainer sessions, and MORE! 🤗https://t.co/LetC6bbaQD pic.twitter.com/Iwc6OM…

client-goで単体のリソースを作成する場合は以下のように明示的に対象のclientを作成することで行うことができます。 func main() { ... deployment := &appsv1.Deployment{} deploymentsClient := clientset.AppsV1().Deployments(apiv1.NamespaceDefault) result, err := deploymentsClient.Create(context.TODO(), deployment, metav1.CreateOptions{}) } しかし、このやり方だと以下の…

MonorepoとOneTeamでMicroservicesの課題に挑む 横浜スタジアム技術実証・COCOA インストール率のリアルタイム可視化 IoT システム DeNA TechCon をながら視聴したのでメモがてら記事にしておきます。 とりあえず Go/GCP の話が多かった印象。 MonorepoとOneTeamでMicroservicesの課題に挑む MonorepoとOneTeamでMicroservicesの課題に挑む マイクロサービスを並行開発していくにあたり、開発効率を向上させるために 起動コマンド等の共通化 サービス作成方法を統一 されたとのことです。 プロジェクトのレイア…

こんにちは、かたいなかです。 最近転職会議のバッチ処理をすべて冪等にし、処理失敗時に気軽に再実行できるようにすることで運用性を向上させました。 今回の記事ではその取り組みを紹介します。 再実行すると重複送信につながるメール送信バッチ もともと、転職会議では一部のバッチ処理を除いてほとんどのバッチ処理が冪等に作られていました。しかし、残りの冪等ではないバッチ処理では、失敗するたびに毎回アドホックな対応をする必要があり運用性に課題を抱えていました 残っていたもので一番大きな問題を抱えていたのがメール送信バッチです。これは、以下の図のようなアーキテクチャで動いており、ワーカーにメールを送信するように…

×235 How Much Should We Trust Staggered Difference-In-Differences Estimates? | Andrew Baker ×34 Neural Networks through the Lens of Category Theory - YouTube ×31 Amazon SageMaker Pipelines (機械学習用 CI/CD サービス) | AWS ×25 デジタルエコノミーの罠 マシュー・ハインドマン (著/文) - NTT出版 | 版元ドットコム ×16 Google、Kubernetesを自動運用してくれる「GK…

ふと思い立って、 Ubuntu なPCに VirtualBox をインストールした。 今どき流行りの Linux ディストリビューションを調べて、 Mangaro と MX をダウンロードした。 とりあえず、Mangaro をインストールした。 Docker や Kubernetes の勉強を始めたが、理解を深めるにはまずモノリシックなアプリケーションを作り、それをコンテナに分ける、というのが良いのではないかと思った。 なので。仮想マシン上に典型的なWebアプリケーションをモノリシックに作ろう、と思い立って VirtualBox と Manjaro をインストールしたのだった。 典型的なWeb…

ちょっと前に、こんな記事を見つけました。 blog.appsecco.com 特定のKubernetesネームスペースに書き換えの権限を持つアカウントを使い、hostpathマウントを使うことでホストのシェルに侵入できるという報告になっています。 その後編は、Pod security Policyを使って保護する方法が解説されています。 blog.appsecco.com 以前、何もセキュリティを考慮せずに構築したKubernetesクラスターで、シェルの侵入とroot権限を使った操作ができるといった話はしたことがありましたが、専用のユーザーを作って特定のNamespaceのアクセスだけ許され…

×101 How I cut GTA Online loading times by 70% ×62 CORS 完全手冊（一）：為什麼會發生 CORS 錯誤？ - Huli ×60 flowchart.fun ×51 技適未取得機器を用いた実験等の特例制度 ×45 [タイトルが取得できませんでした] ×43 Release v0.4.8 · wasm3/wasm3 · GitHub ×41 Build a business, not an audience – Jakob Greenfeld – Experiments in Entrepreneurship and Learning ×36 …

KubernetesのIngressの使い方を改めて勉強中です。 Minikubeを使うと、お試し環境を簡単に作れそうです。 kubernetes.io では早速動かしてみましょうか。 $ minikube config set driver docker $ minikube start --container-runtime=containerd --kubernetes-version=v1.20.4 --cni=calico Ingressアドオンを有効化してみます。 $ minikube addons enable ingress すると、なんということでしょう！ Ingressアド…

この記事はcloud.config tech blogにもマルチポストしていまます。 tech-blog.cloud-config.jp はじめに 以前、Azure Machine Learningで回帰モデルを作成するやり方について記事を書きました。 機械学習でモデルをトレーニングしたら、それを何らかのアプリで使用できるようにする必要があると思います。 Azure Machine Learningでは、そのモデルをアプリとしてデプロイして利用する方法が整備されていて、それを利用することで作成したモデルをWebAPIで簡単に利用できるようになります。 今回はその方法の共有です。 回帰モデルを作…

マイクロサービスパターン 同書の読書記録と感想、長いので３回に分けた最終回です。