Kubernetesは、コンテナ化されたアプリケーションの展開、スケーリング、および管理を自動化するためのオープンソースシステムである。
はじめに こんにちは。SREの gumamon です！ NewRelic、Datadog、モダンな監視ツール(オブザーバビリティ)って良いですよね。弊社もKubernetes(k8s)等を利用した環境が増えてきた折、そろそろ必要になってきたのですが、NewRelic、Datadog等のクラウドサービスはランニングコストが高くなりがちです。 では内製できないかやってみよう！・・・というようなことを昨年度から取り組んでいたのですが、やっとこさ形になりましたので改めてブログで紹介させて頂こうと思います。 今回ご紹介するのは、大まかなシステムの構成と設計時の観点です。各コンポーネントの詳細や工夫できた…
モノタロウのプラットフォームエンジニアリング部門 コンテナ基盤グループの宋 明起です。 私たちは、アプリケーション開発者からコンテナシステムの認知負荷を取り除き、アプリ開発に専念できるコンテナ基盤の構築と基盤を改善し、開発者はより楽に、より安全にアプリケーションのデプロイと運用できるように支援しています。 背景 基本設計 方針 構成 サンプル モニタリング サンプル 障害 障害1. Memory overflowエラーが発生 障害2. 大量のログが欠損になっている (refresh_interval) 障害3. まだ一部ログが欠損になっている (Prestop) [FAQ] 背景 モノタロウで…
Kubernetesクラスタ(on Raspberry Pi5)にCockroachDBを導入する。DB側がTLS有効かつクライアント側でsslmode=verify-fullで接続しようとした際、ユーザの証明書作成に少し手間取ったので、(正しい方法かはわからないが)その手順も示す。 CockroachDBとは Kubernetesクラスタにデプロイする 動作確認 TLSを無効にしてみる ユーザの証明書作成 終わりに
コードを追いながら「おそらくこういう処理だろう」という感じがわかったのでメモを残す。 正しいかどうかわからないので是非コメントいただければと思います。 ざっくりとした流れ Node が削除されるときの流れは以下ドキュメントに記載があります。 karpenter.sh 1. Add the karpenter.sh/disruption=disrupting:NoSchedule taint to the node to prevent pods from scheduling to it. 2. Begin evicting the pods on the node with the Kube…
皆さんこんばんは。空と地上が融和へと導きそうな話しになりそうな感じです。 今日はタイトルの通りkubernetesの勉強の話しをブログに書いてみたいと思います。 それで宇宙の空と地球の地上をつなぐ、ネット環境の構築で、ユニコーン以上を誕生させてみたいと思ったのが発端ではありました。それで、ネット環境でクラスタ開発を成功させるための、 kubernetesにたどり着いた訳であります。 クラスタ開発がどの程度までいけるのか、自分では、まだよくわからないのですが、仮想環境マネージャーのところまでは行けました。この後がどうなるか次第ではあると考えるわけですが、 開発も仮想環境の時代のようです。 今日は…
Karpenter導入によるメリットとデメリットと躓いた点 こんにちは。SREグループの蜂須賀です。 弊社ではEKSを利用しており、これまでノードのオートスケールにはCluster Autoscaler(CA)を利用していました。 2024年6月頃にCAからKarpenterに移行したので、Karpenter導入によるメリットとデメリット、躓いた点を紹介します。 (Karpenterのバージョンはv0.37になります) karpenter.sh Karpenter導入によるメリット ノードの起動速度が速い CAでは、Amazon EC2 Auto Scalingグループを経由してノードのスケー…
投稿時はSRE船のPlatform Orchestrationヨット(a.k.a みちびき)で内定者インターンをしているpokoです。 私はkubernetesとお友達になりたいので、私は正座しながらKubernetes ドキュメントを読む時間を毎週設けています。 なんの記事？ 記事投稿時、kubernetesのバージョンは1.30です kubernetesでPodをスケジュールする際に利用できるTaint and Tolerationsの仕組みと挙動を説明しています。 最終的には「ドキュメントをお読みください。」に行き着くのですが、少し噛み砕いた説明を意識しています。 あなたはこの記事を読む…
この記事は、CYBOZU SUMMER BLOG FES '24（クラウド基盤本部 Stage）DAY 16 の記事です。 こんにちは、Cloud Platformチームの竹村です。 私たちのチームでは、Necoと呼ばれるKubernetes基盤の開発や運用をしています。 このブログ記事では、大量の通信を行うアプリケーションをKubernetes上で運用する際に発生したネットワーク通信経路の障害に関してお話しします。 障害の概要 Kubernetes基盤を利用するチームから、クラスタ内のDNSサーバで性能問題が発生しているとの相談を受け、調査を開始しました。具体的には以下のような事象が起きてい…
現象 Karpenter をインストールする際に Pod Identity を使うように設定したが、何故か Karpenter Controller が Worker Node の IAM ロールを使って、EC2NodeClass で Failed to resolve AMIs エラーが発生していた。 原因 terraform-aws-modules を使って Karpenter の設定をしていたが、namespace が未指定だったので Service Account などは namespace kube-system に作成されていた。 helm_release モジュールを使って Ka…
こんにちは。SRE/データストアチーム の飯塚です。 私たちのチームでは自社製の Kubernetes Operator である MOCO を用いて 800 インスタンス近くの MySQL を Kubernetes 上にデプロイしており、すでに cybozu.com のかなりの割合のお客様のワークロードを処理しています。MySQL on Kubernetes の経緯や苦労についてはまた別の機会にお話しさせていただくとして、今回は大量の MySQL を Kubernetes にデプロイする際に Jsonnet のハッシュ関数を活用している話をさせてください。 この記事は、CYBOZU SUMME…
MonotaRO(モノタロウ)では、全社的にデータ活用研修を行うなど、数字に基づいた意思決定を行うデータドリブンな経営が根付いています。事業者向けECサイトとして、モノを買う時にかかる手間や時間を短縮し、顧客である事業者の時間を創出することが、モノタロウの提供価値です。この価値をさらに高めるため、「ほしいものがすぐ見つかる」という顧客体験の向上に注力しています。 その中心的な役割を担うのが、機械学習（ML）を活用した顧客体験の最適化です。MLエンジニアリング（MLE）チームは、この重要なテーマの最前線に立ち、日々革新的なソリューションの開発に取り組んでいます。 データサイエンスのアルゴリズムを…
Nutanix Kubernetes Platform（NKP）v2.12 で作成した Workload Cluster に、nkp create nodepool コマンドによって生成した YAML ファイルを使用してノード プールを追加してみます。 今回の環境 YAML ファイルの作成 ノード プールの追加（YAML ファイルの適用） 削除時の注意点
Memorystore for Redis移行のためのRedis HAProxy はじめに SREグループ・ヒロチカです。 GO株式会社では、サービスのクラウドインフラの設計から構築・運用までを担当しています。 あるKubernetesのサービスを別のGCPプロジェクトにあるKubernetes環境に移す計画の中で、そのサービスが利用してるGCPプロジェクトのMemorystore for Redisについても別のGCPプロジェクトに移す必要が出てきました。 Memorystore for Redisは内部ネットワークからのみアクセスが可能なサービスのため、移行元のサービスがあるGCPプロジェ…
Nutanix Kubernetes Platform（NKP）v2.12 で作成した Workload Cluster に、ノード プールを追加してみます。 今回の内容です。 今回の環境 ノード プールの作成 ノード プールの削除
自動化は私の忍耐力の限界を補完してくれます。 はじめに 本書「Continuous Deployment」は、継続的デプロイメントの実践に焦点を当てた包括的なガイドです。継続的デプロイメントは、ソフトウェアパイプラインを完全に自動化し、手動介入を必要としない手法です。この方法により、クオリティーゲートを通過したすべてのコードコミットが自動的に本番環境にデプロイされます。 私は、ソフトウェア開発の現場で、オンプレミスの手動デプロイから始まり、Makefileによる自動化、JenkinsやCircleCI、GitHub Actions、GitLab CI/CD、AWS CodePipeline、C…
こんにちは！SmartBankサーバーサイドエンジニアのhiroteaです！ いよいよYAPC::Hakodate 2024も今週末に迫ってきましたね🦀 本日はそんなYAPC::Hakodateに登壇する弊社エンジニア4名の発表への思いと見どころをトーク概要とともにご紹介していきます。 Keynote +ライトニングトーク @moznion TrackA 17:20~ 概要 blog.yapcjapan.org 登壇者から (@moznion) 初のキーノートということもあり身が引き締まる思いでございます。折角のキーノートの機会ということでエモい話でもしようかと思っていたのですが、話の流れを練…
こんにちは。クラウド基盤本部の野島です。 今年のインターンシップでは、プラットフォーム(自社基盤)コースとして2名の方を受け入れ、それぞれ異なる課題をやってもらいました。 そのうちの一つは Pingora に関する課題で、覚道さんに取り組んでいただきました。（もう一つの課題は nginx のキャッシュの性能に関するもので、これについては昨日の記事をご参照ください） Pingora は Cloudflare が開発したロードバランサのためのフレームワークであり、Rust を使って好きなロジックを組み込んだロードバランサを書くことができます。 今回のインターンでは Pingora を使って TLS…
Nutanix CSI Driver で作成された Nutanix Volumes の Volume Group（VG）は、なんらかの事情により削除されずに残ることがあります。なんとか整理するために、VG が関連する Kubernetes の情報を取得してみます。 Nutanix CSI Driver による VG REST API v2 での VG 情報取得
はじめに Cloud Platform部のpddgです。2024年もサマーインターンシップを開催し、プラットフォーム（自社基盤）コースとして2名の方を受け入れました。 昨年の様子は以下からご覧いただけます。興味があれば是非ご覧下さい。 blog.cybozu.io 今回は受け入れたお二方のうち藤本陽人さん（static-fuji）に担当していただいた検証の中で発見したやや直感的でない挙動について、藤本さんによる検証結果を社員がまとめたものになります。 この記事内での検証のほとんどはインターン生である藤本さんによって実施されたものですが、一部社員がインターンシップ完了後にこの記事の執筆のために生…
はてなブログ独自の集計による人気記事のランキング。9月22日（日）から9月28日（土）〔2024年9月第4週〕のトップ30です*1。 # タイトル／著者とブックマーク 1 正しく評価される自己評価の書き方 - るさんちまん by id:naopr 2 相手に話が通じないと感じた時の対処法 - Konifar's ZATSU by id:konifar 3 なぜ日比谷公園に一万人の陰謀論者が集まったのか - やばいブログ by id:y_ryukichi 4 Parquetフォーマット概観 - 発明のための再発明 by id:mrasu 5 「市場に出ない」「理想の異性」について考える際の視点 …
はじめに 技術評論社様より発刊されているSoftware Designの2024年5月号より「レガシーシステム攻略のプロセス」と題した全8回の連載が始まりました。 ZOZOTOWNリプレイスが順調に進む中始まった「カート決済機能」のリプレイス。第5回では、始動の経緯と、システムの安定稼働につながる大きな改善をもたらしたキューイングシステムの導入について解説します。
株式会社カケハシは「日本の医療体験を、しなやかに。」というミッションを掲げた、医療系のスタートアップです。現在は薬局向けのSaaSを主軸としたビジネスを行っており、多くのエンジニアがチームを組んで開発に取り組んでいます。その開発チームのひとつ「yabusame」は、特徴的なチーム編成もあって社内外で注目を集めています。 メンバーの椎葉光行（@bufferings）さん、小田中育生（@dora_e_m）さん、荻野淳也（@ogijun）さん、種岡篤志さん、平松拓（@hirataq__）さんは、それぞれが開発チームをリードできる高い技術力やマネジメント能力だけでなく、細やかな対人スキルや広い視座でメ…
Nutanix Kubernetes Platform（NKP）投稿のまとめページです。 Management Cluster の作成 Managed Cluster（Workload Cluster）の作成 認証 / アクセス制御関連 今回のラボの イメージ図 です。いまのところ、NKP Starter エディションを使用しています。自宅ラボのリソースの都合上、下記のように Nutanix クラスタを 2つ用意しています。 Nutanix CE クラスタ #1： おもに Prism Central 用 Nutanix CE クラスタ #2： おもに NKP クラスタ作成用 NKP の認証には…
Nutanix Kubernetes Platform（NKP）v2.12 のダッシュボードで、Kubernetes クラスタを Prism Central のプロジェクトに作成してみます。 前回はこちら。 Nutanix Kubernetes Platform（NKP）v2.12 の Workload Cluster をプロジェクトに作成してみる。前編:Project 作成 今回の内容です。 NKP Workload Cluster の作成 Prism Central へのログイン
Nutanix Kubernetes Platform（NKP）v2.12 で、Kubernetes クラスタを Prism Central のプロジェクトに作成してみます。 今回の内容です。 今回の環境 1. Prism Centarl の IdP 設定（AD 登録） 2. プロジェクトの作成 3. Prism Central へのログイン確認
jaco.udcp.info
qiita.com
blog.inductor.me
blog.father.gedow.net
qiita.com
www.publickey1.jp
blog.inductor.me
ascii.jp
speakerdeck.com
