継続は力なり

タイトル通り定期的な更新を心掛けるブログです。

AWS

CloudWatch Agent で procstat プラグインを使った EC2 のプロセス監視を設定する

タダです. CloudWatch Agent は EC2 から CPU,メモリなどのメトリクスをとったり,CloudWatch Logs にログを出力できますし,AWS Compute Optimizer を有効活用するためにも役立てることができます.今回は,procstat プラグインを使って Nginx のプロセス監視で…

JAWS-UG 朝会 #15 で『AWS Organizations と一緒にはじめるアカウント分離』の取り組みを発表した

タダです. 11/18 にJAWS-UG 朝会 にて「AWS Organizations と一緒にはじめるアカウント分離」と題して登壇させていただきました.この記事で登壇資料と登壇を振り返っていきます. jawsug-asa.connpass.com 登壇資料 今回の登壇の振り返り まとめ 他の方の勉強…

SAM で Step Functions と Lambda のワークフローを管理する

タダです. Serveless Applicaiton Model(SAM) で Lambda の開発とデプロイを行い,Step Functions が Lambda 関数処理のワークフローを管理しています.ただ,Step Functions のコード管理ができていない課題があって どの Step Functions が どの Lambda を管…

SSM Automation を使ったオペレーションの省力化!

タダです. 運用において System Manager Automation(SSM Automation) を使い始めたのですが,これまで Lambda などで仕組み化していたものが AWS が機能として提供されていて感動したのでこの記事で SSM Automation の概要と今取り入れている機能を書きます. …

『データドリブンな組織を目指す、AWSを活用したデータ分析基盤の取り組み』と題して AWS DevDay で登壇した

タダです. 10/21 に AWS DevDay Online Japan にて「データドリブンな組織を目指す、AWSを活用したデータ分析基盤の取り組み」と題して登壇させていただきました.この記事で登壇資料と登壇を振り返りをしていきます. aws.amazon.com 登壇資料 今回の登壇の振…

Mackerel の公式プラグインを使ってメトリック監視を行う

タダです. Mackerel でメトリック監視を実装するにあたって Mackerel 公式プラグインを検証する機会があったのでこの記事でその内容をまとめていきます. mackerel.io github.com Mackerel の導入環境 Mackerel の導入環境として Amazon Linux2 に入れました.…

Lambda のカスタムランタイムで AWS CLI を実行させる

タダです. Aurora のスナップショットを S3 にエクスポートする処理を自動化したいと思って,Lambda でカスタムランタイムを使ってAWS CLI を実行する検証をしたので備忘録として記事に残しておきます. カスタムランタイムのコード 参考にしたドキュメント カ…

『AWS Copilot CLI』 v0.4.0 で追加された機能を整理する

タダです. 「AWS Copilot CLI」がv0.4.0が9/22にリリースされました.この記事でv0.4.0のリリースノートを参照してどのような機能が追加されたかを整理しておきます. リリースノート github.com 1. パイプラインの手動承認をサポート 2. タスク ID によるサー…

【Athena の躓きシリーズ】Athena で MySQL の UNIXTIME を扱うクエリを変換した時にハマったこと

タダです. 業務で MySQL で扱っていたクエリをAthena で使えるように変換しながら利用者のサポートしていて UNIXTIME の扱いでハマったので Athena でどのように対応したかをメモとしてまとめておきます. 1, UNIXTIME を JST に変換して使いたいケースのクエ…

【Athena の躓きシリーズ】Athena 専用ユーザーを払い出してクエリを叩けるまでにハマったこと

タダです. 業務でいろんな部署の人に Athena の実行ユーザーを提供して分析業務を行ってもらっているのですが,そのために IAM ポリシーと Athena 側での設定でハマったことをまとめておきます. IAM ポリシーでハマったこと Athena の設定でハマったこと まと…

S3 に保存したデータを BigQuery に読み込ませるための方法を検証した

タダです. 最近業務で BigQuery を触り始めたのですが,メインのシステムが AWS 上にありデータが S3 に保存されています.BigQuery で分析するためには S3 にあるデータを GCP 側に持っていく必要があり,その方法を検証したので備忘録としてこの記事でまとめ…

Aurora MySQL のスナップショットから特定テーブルデータを S3 にエクスポートする

タダです. 前回の記事で Aurora MySQL 互換のデータを SELECT INTO OUTFILE S3 を発行して S3 にエクスポートする情報を整理しました.今回は下記のドキュメントに沿って Aurora のスナップショットから特定テーブルデータをApache Parquet 形式で圧縮して S3…

Aurora MySQL の特定テーブルデータを SELECT INTO OUTFILE S3 を使って S3 にエクスポートする

タダです. 業務でデータ分析系に関わり始めたのですが,その技術調査として Aurora MySQL 互換から S3 へデータをエクスポートした時の検証を記事にまとめていきます.なお,Aurora のバージョンは 5.6.mysql_aurora.1.22.2 で検証してます. 準備 1. Aurora に…

機械学習の専門知識を証明する『AWS 認定 Machine Learning Speciality』の試験勉強でやったことを整理する

タダです. データ分析に興味がありその勉強の一環で,8/21 に「AWS 認定 Machine Learning Speciality」を受けて合格しました.今回は自分がどんな勉強をしたかを振り返り,今後受験される方の勉強の参考になれば嬉しいです. 試験範囲について 試験勉強で注力し…

『AWS Copilot CLI』 v0.3.0 で追加された機能を整理する

タダです. 「AWS Copilot CLI」がv0.3.0が8/14にリリースされました.v0.2.0が出たのが7/21だったので一カ月後に新しいバージョンがリリースされて開発が早いなと思います.この記事でv0.3.0のリリースノートを参照してどのような機能が追加されたかを整理して…

データレイクの基礎から構築と運用の視点を学べる『AWS ではじめるデータレイク』を読んだ

タダです. データレイクの設計や構築,運用の勉強をしたいと思い「AWS ではじめるデータレイク」を読んだので,書評記事を書いていきます. 公式サイト techiemedia.co.jp 物理本 AWSではじめるデータレイク: クラウドによる統合型データリポジトリ構築入門作者…

Amazon の監視ダッシュボードの取り組みを学べる『Building dashboards for operational visibility』を読んだ

タダです. 新しい「Amazon Builders’ Library」の記事として「Building dashboards for operational visibility(運用の可視化のためのダッシュボードの構築)」が追加されました.このページを読んで Amazon での監視ダッシュボード構築・運用の取り組みを学ん…

『AWS Copilot』で ECS の CI/CD パイプラインをサクッと作る

タダです. 「AWS Copilot」のコマンドでcopilot pipelineからはじまるコマンドがあります.このコマンドでは,GitHub にコードをプッシュした時に CodeBuild,CodePipeline によるリリースパイプラインを作ることができます.この記事では,copilot pipelineコマ…

『AWS Coplilot CLI』の v0.2.0 でサポートされたストレージリソースのデプロイを実践する

タダです. 「AWS Coplilot CLI」がv0.2.0になった時に追加されたcopilot storage initコマンドがあります.このコマンドで S3 もしくは DynamoDB を ECS のアプリケーションと関連づけられ,デプロイする時も一緒に展開されます.今回はストレージリソースを追…

『AWS Copilot CLI』のコマンドとパラメーターから『AWS Coplilot』の理解を深める

タダです. 「AWS Copilot CLI」のコマンドとそのパラメーターでまだまだ知らないことが多いのでこの記事でコマンドとパラメーターを確認して,「AWS Copilot」の理解を深めたいと思います. 参照したドキュメント github.com なお,CLI のバージョンは 0.4.0 で…

東京都のオープンデータを使ってデータの可視化を QuickSight で実践しよう!

タダです. QuickSight のハンズオンを試してみて,やっぱりオープンデータを使って自分なりに可視化してみたい!と思ったので東京都が公開している新型コロナウイルス関連のデータを可視化してみます. stopcovid19.metro.tokyo.lg.jp 可視化対象のデータセッ…

AWS CDK アプリケーションの継続的デプロイメントを実装する『CDK Pipeline』を実践した

タダです. 現在プレビュー版ではありますが,AWS CDK アプリケーションの継続的デプロイメントを行う「CDK Pipeline」の記事が出ていたので記事を参考にこの機能を試してみました.記事を通してどんな実装を試せるのか,試してみての所感をまとめていきます. 日…

データを可視化する QuickSight に入門しよう!『セルフBIサービス・販売管理ダッシュボード編』の紹介

タダです. 前回「Basic ハンズオン編」を終えたので今回は,「セルフBIサービス・販売管理ダッシュボード編」を取り組んでみたので学べることやハンズオンでどんな風にデータを可視化できるかをまとめていきます. sadayoshi-tada.hatenablog.com ハンズオン概…

コンテナの環境構築とデプロイをサポートする『AWS Copilot』の概念や用語を理解する

タダです. 前回「Copilot CLI」の導入と Get Started の記事を書きました. sadayoshi-tada.hatenablog.com 今回は, 「AWS Copilot」(以下,Copilot)を理解するためにどんな概念や用語があるかを確認してツールの使い方を整理していきたいと思います. ツールの…

【Athena の躓きシリーズ】CloudTrail ログの中から API コール数を集計する Athena のクエリ

タダです. 業務で Athena を使ったログ解析で詰まったことがあったら都度記事にクエリの結果とその対処をまとめるシリーズをやってます.今回は CloudTrail ログの中から特定の API コール数がどこから発信されているかを確認する必要があった時の学びをこの…

データを可視化する QuickSight に入門しよう!『Basic ハンズオン編』の紹介

タダです. QuickSight のハンズオンキットが公式ブログでアナウンスされていたのですが,QuickSight をあんまり使ったことがなかったのでこのハンズオンシリーズを通して QuickSight の使い方を学んでいきます.今回は,「Basicハンズオン編」を取り組んでみた…

スピーディーなコンテナ環境の構築とアプリケーションデプロイができる『AWS Copilot CLI』

タダです. 現在ベータ版ですが ECS や Fargate でのアプリケーションの作成/リリース/管理するための開発者向けツールである「AWS Copilot CLI」を触ってみました.この記事でツールの概要,ツールの導入,サンプルアプリケーションのデプロイを通じてこのツー…

Amazon の継続的デプロイの取り組みを学べる『Automating safe, hands-off deployments』を読んだ

タダです. 新しい「Amazon Builders' Library」の記事が公開されました.オンラインの輪読会で一通り記事は読んだのですが,追加された「Automating safe, hands-off deployments(安全なハンズオフデプロイメントの自動化)」を読んで Amazon での取り組みを学…

おや? NLB のアクセスログを出力設定しているのに S3 バケットにログが出てないぞ?って時に確認すべきこと

タダです. 小ネタですが,NLB のアクセスログを S3 に出す設定をしているもののログがでてなくてあれ?と思った機会があったので備忘録として記事に残しておきます. 結論 いきなり結論ですが,自分の場合は NLB の仕様で S3 にログが出ていませんでした.その仕…

CloudFormation テンプレートがルールに準拠しているかをチェックする CLI ツール『CloudFormation Guard』

タダです. 現在プレビューですが,「CloudFormation Guard」というコマンドラインツールが使えるようになりました.このツールは CloudForamtion テンプレートが定めたポリシーと照らして設定値として正しいのかをチェックします. 公式ブログ aws.amazon.com G…