fluentd

背景 こんにちは、キュービックでSREをやっているYuhta28です。キュービック内のテック技術について発信します。 Datadogに移行してから数ヶ月が経ちました。メディアサーバーへのエージェント導入や外形監視設定など一通り完了し今の所運用できていますが、しばらくして課題が出てきました。 ログストレージコスト増加 Datadogのログ料金はログの保持期間、量によって変わる従量課金制1です。弊社は15日間の保持期間で契約していて、それより古いログはAmazon S3にアーカイブされる運用にしています。 アーキテクチャ図 アーキテクチャ図 以前の記事でも書いたとおりDatadogへのログ転送はO…

fluent-plugin-elb-logでS3からALBのアクセスログを収集してみたので手順をまとめます。 github.com 環境 Ubuntu 22.04(LTS) $ lsb_release -d Description: Ubuntu 22.04 LTS td-agent 4.4.1 $ td-agent --version td-agent 4.4.1 fluentd 1.15.2 (c32842297ed2c306f1b841a8f6e55bdd0f1cb27f) fluent-plugin-elb-log 1.3.2 $ td-agent-gem list fluent-pl…

fluent-plugin-cloudwatch-logsのin_cloudwatch_logsでCloudWatch Logsからログを収集してみたので手順をまとめます。 github.com 環境 Ubuntu 22.04(LTS) $ lsb_release -d Description: Ubuntu 22.04 LTS td-agent 4.4.1 $ td-agent --version td-agent 4.4.1 fluentd 1.15.2 (c32842297ed2c306f1b841a8f6e55bdd0f1cb27f) fluent-plugin-cloudwatch-…

本記事について Fluentdは機能としてはシンプルですが、 高負荷環境で安定的に運用するためにはある程度の知識が求められます。 そこで、本記事ではそれなりにログ流量の高い環境下で私が考慮した観点をまとめました。 本記事では、KubernetesでFluentdの信頼性を担保するための3つの観点に加え、 「高負荷時の安定運用」に焦点を当て、 負荷分散 適切なモニタリング トラブルシューティングとチューニング の3つの観点について整理しています。 前提となるアーキテクチャ アーキテクチャとしては実際に私が構築した図の構成を前提とします。 アーキテクチャの特徴 1つのKubernetesクラスタに…

概要 td-agentでログが転送されるか確認したい場合のfluent-catコマンドを使うことで確認することが出来ます。 インストール fluent-catコマンドはtd-agentをインストールすると使用することが出来ます。 実行 echo '{"foo":"bar"}' | /opt/td-agent/embedded/bin/fluent-cat hoge.fuga上記のようにJson形式のログをパイプで渡し、 hoge.fugaとタグの指定を行うことが出来ます。

ランキング参加中プログラミングタイトルの通り fluentdのout exec pluginを試してみました。http://docs.fluentd.org/articles/out_execdocs.fluentd.orgリンクが切れていたので追記です。 docs.fluentd.org 概要 dummerによって作成したltsv形式のlogファイルをtail input pluginで監視して exec output pluginで何らかの操作をするということをします。dummerなどについては下記の記事を参考にしていただければと・・・arata.hatenadiary.com 構成 fl…

Embulkのfilter pluginを作ってみようと思ったんですが その前にfluentdのpluginを作ってみました。 こちらです。 一応動くかと・・・github.comSlack RTM(Real Time Messaging)のメッセージをfluentdで取得してくれるpluginです。 なんとなく作ってみただけなので、 テストとかも無いし、Gemfileにもしていません。 そのうちする予定です。 Configから取得するところのテストくらいは書きたいです。※SlackRTMとは Legacy: Real Time Messaging API | SlackSlackAPIから取…

概要 背景 移行 移行前の構成 (MySQL, PHPバッチ) 移行後の構成 (DynamoDB, Kinesis) 移行の段取り 詳細 ストリーミング処理 APIサーバー APIクライアント 移行を終えて 最後に 概要 技術部インフラグループの春日です。 2024年上期現在、弊社ではオンプレデータセンターで稼動しているサーバーのクラウド移行を進めており、 2024年1Qの時点で大半はAWSへの移行が完了しています。 本記事では社内で古くから運用し続けているメール配信サーバーのバウンスマネジメントに使用するアドレス帳データをクラウド移行した件について振り返ります。 メール配信サーバー自体のクラ…

はじめに 本稿は、オープンソースの可観測性(Observability)プロジェクトである OpenTelemetry を取り上げた書籍「Learning Opentelemetry」の読書感想文です。従来の可観測性の課題であったデータの分断を解消し、トレース、メトリクス、ログなどの様々なテレメトリデータを統合的に扱うことができる OpenTelemetry は、可観測性の分野における革命的な存在と言えます。 過去10年間で、可観測性はニッチな分野から、クラウドネイティブの世界のあらゆる部分に影響を与える数十億ドル規模の産業へと発展しました。しかし、効果的な可観測性の鍵は、高品質のテレメトリデ…

SREチームのanecho108です。 前回は、New RelicからDatadogに乗り換えした話を書かせていただきました。 ブログを書いてから数ヶ月経ちましたので、Datadogの導入時に実施したことを備忘録として書かせていただきたいと思います。 Integrations設定 Integrationsの設定方法は自動と手動の２種類 Datadogを使うリージョンを間違えないように Datadog関連のセキュリティを扱うのであれば＋SecurityAuditを付与 Terraform化できる CSMの設定 Infrastructure List Metrics Integrations上の見…

2024 年 3 月 7 日（木）～ 9 日（土）にかけて開催された PHPerKaigi 2024 に参加およびスピーカー（レギュラートーク 20 分 + LT）として登壇してきました。 こちらは月刊 PHP カンファレンス 3 月号ですね。 1 月号はこちら blog.okashoi.net 2 月号はこちら blog.okashoi.net PHPerKaigi 2024について 当日の様子 自分の登壇内容 ファイル先頭の use の意味、説明できますか？ 〜PHP の namespace と autoloading の関係を正しく理解しよう〜 MySQL のインデックスの種類をおさらい…

こんにちは、プロダクトエンジニアリング部の山﨑です。 私は LIFULL HOME'S 賃貸マーケットのプロダクト開発を行うグループに属しており、その中でも技術負債解消に取り組むエンジニアリングチームのリーダーをしています。 本記事では、LIFULL HOME'S の賃貸マーケットにおける技術負債の現状と、本チームの具体的な取り組み内容を紹介します。 LIFULL HOME'S の技術負債解消への取り組みを知っていただくことで、LIFULL HOME'S でのエンジニアリングに興味を持っていただけたら幸いです。

こんにちは！ 今回はUbuntu Server 22.04で自宅サーバーを構築したことについてまとめます。 使用したハードウェア 2011年製のノートPC（Core i5 480M、メモリ4GB） passmark（CPUベンチマーク）スコアが1323 Apple M1のスコアが14187なので時代を感じるスペック スティック型SSD SSD-SCT500U3-BA USBフラッシュメモリ KUC-3A064GW なぜインストールしたか 自作のRailsアプリを外出時にも使用するためデプロイ環境が欲しかった 自宅サーバーの構築を通じてLinuxの知識を深めたかった インストール手順 USBメモ…

こんにちはマネージドサービス部 大城です。 2023年12月に販売された「New Relic実践入門 第2版 オブザーバビリティの基礎と実現」を読んだので読書感想文を書きます。 www.seshop.com 今回の本は第2版となっており、第1版のときに書かれた弊社のブログもありますので貼っておきます。 『New Relic 実践入門 監視からオブザーバビリティへの変革』を読んでみた - サーバーワークスエンジニアブログ 誰におすすめか 本書の構成 第１部 New Relicを知る 第２部 New Relicを始める 第３部 New Relic活用レシピ 感想 オブザーバビリティの民主化 インフ…

はじめに AWS Firgate タスクのログについて、どのように管理して行くか検討したい点はいくつかあります。 保存先をどこにするか CloudWatch Logs, S3, 外部... どの程度の期間保存するか アラート通知をどうするか 概ね、以下のような形にはしたいですが、料金や要件等によって変わってくるところもあるかなと思います。 S3: 出力される全てのログを保存し、長期間保存する (場合によっては Glacier へ保存する) 外部監視ツール CloudWatch Logs: アラームを出したいログ、Insightで見たい内容、または直近1ヶ月分等の短い期間のログ全量または一部

はじめに はじめまして。求人ボックスシステム部SREチームの伊東です。SREチームではありますが、業務では主にSolrをメインに各種の運用・保守を担当しています。 今回はSQLのパフォーマンスモニタリングツールであるPercona Monitoring and Management(PMM)を紹介いたします。 パフォーマンス劣化の原因を特定することへの課題 求人ボックスは2015年にサービス開始しました。 サービス成長に伴いサーバーおよびサービスの各指標の監視にPrometheus(Victoria Metrics) + Grafanaを導入して実施しています。 しかし、サーバー負荷の高騰やサ…

10年にも渡り会社ロゴの服などを溜め込んでいたため、タンスが私服よりも多い状態と長年なっており、もう何も入らなくなってしまった。子供もおおきくなり、服も嵩張るようになってきてしまい、さすがに一部整理しようと決意した。また、体のサイズが変わり着られなくなってしまったり、普段からかなり着込んでいたためクタクタになってしまったものも多い。ここに写真と共に供養をしていく。 全部で約45-50着ほど保管していた。 前編: blog.torut.tokyo その他 ここではTDとは直接関係ないところも載せていく。 Zendesk Zendesk Japanでコミュニティイベントをしたときにもらった。201…

10年にも渡り会社ロゴの服などを溜め込んでいたため、タンスが私服よりも多い状態と長年なっており、もう何も入らなくなってしまった。子供もおおきくなり、服も嵩張るようになってきてしまい、さすがに一部整理しようと決意した。また、体のサイズが変わり着られなくなってしまったり、普段からかなり着込んでいたためクタクタになってしまったものも多い。ここに写真と共に供養をしていく。 全部で約45-50着ほど保管していた。 後編: blog.torut.tokyo トレジャーデータのロゴ変遷 へー社はこんなかんじでロゴが変遷してきている。 ロゴが変わるタイミングは色々だが、マーケのトップが変わるタイミングだったり…

毎年やってる恒例のやつ。 今年の抱負 - 2017。 今年の振り返りと来年の抱負 - 2018。 今年の振り返りと来年の抱負 - 2019。 今年の振り返りと来年の抱負 - 2020。 今年の振り返りと来年の抱負 - 2021。 今年の振り返りと来年の抱負 - 2022。 今年の振り返りと来年の抱負 - 2023。 まずは今年の振り返り。 1月 仕事で宇宙関連のプロジェクトにジョインした(数ヶ月限定) CI/CDを中心にミドルウェアの検証を色々とした act、MinIO、Jenkins、RabbitMQ、CI/CDの高速化 2月 仕事で面接官というものを初めて経験した ガングリオン(良性腫瘍の…