継続は力なり

タイトル通り定期的な更新を心掛けるブログです。

【Athena の躓きシリーズ】Athena 専用ユーザーを払い出してクエリを叩けるまでにハマったこと

タダです. 業務でいろんな部署の人に Athena の実行ユーザーを提供して分析業務を行ってもらっているのですが,そのために IAM ポリシーと Athena 側での設定でハマったことをまとめておきます. IAM ポリシーでハマったこと Athena の設定でハマったこと まと…

S3 に保存したデータを BigQuery に読み込ませるための方法を検証した

タダです. 最近業務で BigQuery を触り始めたのですが,メインのシステムが AWS 上にありデータが S3 に保存されています.BigQuery で分析するためには S3 にあるデータを GCP 側に持っていく必要があり,その方法を検証したので備忘録としてこの記事でまとめ…

Aurora MySQL のスナップショットから特定テーブルデータを S3 にエクスポートする

タダです. 前回の記事で Aurora MySQL 互換のデータを SELECT INTO OUTFILE S3 を発行して S3 にエクスポートする情報を整理しました.今回は下記のドキュメントに沿って Aurora のスナップショットから特定テーブルデータをApache Parquet 形式で圧縮して S3…

Aurora MySQL の特定テーブルデータを SELECT INTO OUTFILE S3 を使って S3 にエクスポートする

タダです. 業務でデータ分析系に関わり始めたのですが,その技術調査として Aurora MySQL 互換から S3 へデータをエクスポートした時の検証を記事にまとめていきます.なお,Aurora のバージョンは 5.6.mysql_aurora.1.22.2 で検証してます. 準備 1. Aurora に…

Macbook の初期セットアップを Ansible で取り組む(2020年9月版)

タダです. 業務で使う PC を変えたのでそのセットアップを勉強の一環で Ansible でやってみました.セットアップしたのは次のマシンです.今回は備忘録として行った内容を記事に書いていきます. Macbook Pro 2020 Mac OS X Catalina 10.15.6 準備 定義ファイル…

自分の仕事を見つめ直すきっかけをくれる『その仕事、全部やめてみよう』を読んだ

タダです. Twitter でいろんな人が感想をツイートして気になっていた「その仕事、全部やめてみよう」を読み終えたので,書評記事を書いていきます. その仕事、全部やめてみよう――1%の本質をつかむ「シンプルな考え方」作者:小野 和俊発売日: 2020/07/30メデ…

機械学習の専門知識を証明する『AWS 認定 Machine Learning Speciality』の試験勉強でやったことを整理する

タダです. データ分析に興味がありその勉強の一環で,8/21 に「AWS 認定 Machine Learning Speciality」を受けて合格しました.今回は自分がどんな勉強をしたかを振り返り,今後受験される方の勉強の参考になれば嬉しいです. 試験範囲について 試験勉強で注力し…

『AWS Copilot CLI』 v0.3.0 で追加された機能を整理する

タダです. 「AWS Copilot CLI」がv0.3.0が8/14にリリースされました.v0.2.0が出たのが7/21だったので一カ月後に新しいバージョンがリリースされて開発が早いなと思います.この記事でv0.3.0のリリースノートを参照してどのような機能が追加されたかを整理して…

データ分析における収集とその活用の取り組みを『Data Engineering Study #2』で聞いた

タダです. 前回「Data Engineering Study #1 」に続き「Data Engineering Study #2 」が開催されたので参加してきました.今回の記事では発表を聞いて感じたことやメモをとった内容をまとめていきます. forkwell.connpass.com イベント概要 第1回勉強会では「…

データレイクの基礎から構築と運用の視点を学べる『AWS ではじめるデータレイク』を読んだ

タダです. データレイクの設計や構築,運用の勉強をしたいと思い「AWS ではじめるデータレイク」を読んだので,書評記事を書いていきます. 公式サイト techiemedia.co.jp 物理本 AWSではじめるデータレイク: クラウドによる統合型データリポジトリ構築入門作者…

Amazon の監視ダッシュボードの取り組みを学べる『Building dashboards for operational visibility』を読んだ

タダです. 新しい「Amazon Builders’ Library」の記事として「Building dashboards for operational visibility(運用の可視化のためのダッシュボードの構築)」が追加されました.このページを読んで Amazon での監視ダッシュボード構築・運用の取り組みを学ん…

『AWS Copilot』で ECS の CI/CD パイプラインをサクッと作る

タダです. 「AWS Copilot」のコマンドでcopilot pipelineからはじまるコマンドがあります.このコマンドでは,GitHub にコードをプッシュした時に CodeBuild,CodePipeline によるリリースパイプラインを作ることができます.この記事では,copilot pipelineコマ…

『AWS Coplilot CLI』の v0.2.0 でサポートされたストレージリソースのデプロイを実践する

タダです. 「AWS Coplilot CLI」がv0.2.0になった時に追加されたcopilot storage initコマンドがあります.このコマンドで S3 もしくは DynamoDB を ECS のアプリケーションと関連づけられ,デプロイする時も一緒に展開されます.今回はストレージリソースを追…

『AWS Copilot CLI』のコマンドとパラメーターから『AWS Coplilot』の理解を深める

タダです. 「AWS Copilot CLI」のコマンドとそのパラメーターでまだまだ知らないことが多いのでこの記事でコマンドとパラメーターを確認して,「AWS Copilot」の理解を深めたいと思います. 参照したドキュメント github.com なお,CLI のバージョンは 0.4.0 で…

東京都のオープンデータを使ってデータの可視化を QuickSight で実践しよう!

タダです. QuickSight のハンズオンを試してみて,やっぱりオープンデータを使って自分なりに可視化してみたい!と思ったので東京都が公開している新型コロナウイルス関連のデータを可視化してみます. stopcovid19.metro.tokyo.lg.jp 可視化対象のデータセッ…

AWS CDK アプリケーションの継続的デプロイメントを実装する『CDK Pipeline』を実践した

タダです. 現在プレビュー版ではありますが,AWS CDK アプリケーションの継続的デプロイメントを行う「CDK Pipeline」の記事が出ていたので記事を参考にこの機能を試してみました.記事を通してどんな実装を試せるのか,試してみての所感をまとめていきます. 日…

『Data Engineering Study #1 』でデータ分析基盤の活用で必要なアクションとデータ活用の実例を聞いた

タダです. クラウドサービスの活用が増えていく中で企業の扱うデータは増えていって,そのデータを活用できるかって企業活動においてすごく大事だと感じてデータ分析に興味を持ったのですが,データ分析基盤の勉強会「Data Engineering Study #1 」が開催され…

データを可視化する QuickSight に入門しよう!『セルフBIサービス・販売管理ダッシュボード編』の紹介

タダです. 前回「Basic ハンズオン編」を終えたので今回は,「セルフBIサービス・販売管理ダッシュボード編」を取り組んでみたので学べることやハンズオンでどんな風にデータを可視化できるかをまとめていきます. sadayoshi-tada.hatenablog.com ハンズオン概…

コンテナの環境構築とデプロイをサポートする『AWS Copilot』の概念や用語を理解する

タダです. 前回「Copilot CLI」の導入と Get Started の記事を書きました. sadayoshi-tada.hatenablog.com 今回は, 「AWS Copilot」(以下,Copilot)を理解するためにどんな概念や用語があるかを確認してツールの使い方を整理していきたいと思います. ツールの…

【Athena の躓きシリーズ】CloudTrail ログの中から API コール数を集計する Athena のクエリ

タダです. 業務で Athena を使ったログ解析で詰まったことがあったら都度記事にクエリの結果とその対処をまとめるシリーズをやってます.今回は CloudTrail ログの中から特定の API コール数がどこから発信されているかを確認する必要があった時の学びをこの…

データを可視化する QuickSight に入門しよう!『Basic ハンズオン編』の紹介

タダです. QuickSight のハンズオンキットが公式ブログでアナウンスされていたのですが,QuickSight をあんまり使ったことがなかったのでこのハンズオンシリーズを通して QuickSight の使い方を学んでいきます.今回は,「Basicハンズオン編」を取り組んでみた…

スピーディーなコンテナ環境の構築とアプリケーションデプロイができる『AWS Copilot CLI』

タダです. 現在ベータ版ですが ECS や Fargate でのアプリケーションの作成/リリース/管理するための開発者向けツールである「AWS Copilot CLI」を触ってみました.この記事でツールの概要,ツールの導入,サンプルアプリケーションのデプロイを通じてこのツー…

Amazon の継続的デプロイの取り組みを学べる『Automating safe, hands-off deployments』を読んだ

タダです. 新しい「Amazon Builders' Library」の記事が公開されました.オンラインの輪読会で一通り記事は読んだのですが,追加された「Automating safe, hands-off deployments(安全なハンズオフデプロイメントの自動化)」を読んで Amazon での取り組みを学…

おや? NLB のアクセスログを出力設定しているのに S3 バケットにログが出てないぞ?って時に確認すべきこと

タダです. 小ネタですが,NLB のアクセスログを S3 に出す設定をしているもののログがでてなくてあれ?と思った機会があったので備忘録として記事に残しておきます. 結論 いきなり結論ですが,自分の場合は NLB の仕様で S3 にログが出ていませんでした.その仕…

GitHub Actions の使い方を実践的に学べる『GitHub Actions 実践入門』を読んだ

タダです. GitHub Actions が正式リリースされたので使ってみたいと思い「GitHub Actions 実践入門」を技術書典応援祭で購入しました.本書を読了したので,学べることと所感をまとめていきます. 技術書典応援祭 techbookfest.org Booth miyajan.booth.pm 目次…

CloudFormation テンプレートがルールに準拠しているかをチェックする CLI ツール『CloudFormation Guard』

タダです. 現在プレビューですが,「CloudFormation Guard」というコマンドラインツールが使えるようになりました.このツールは CloudForamtion テンプレートが定めたポリシーと照らして設定値として正しいのかをチェックします. 公式ブログ aws.amazon.com G…

AWS での Terraform とコンテナの開発・デプロイを体感する『コンテナ時代のWebサービスの作り方』を読んだ

タダです. コンテナでアプリを動したり,その環境を Terraform で構成する経験を積んでいきたいと思い「コンテナ時代のWebサービスの作り方」を購入しました.本書を読了したので,学べることと所感をまとめていきます. Booth booth.pm 目次 本書で学べること …

『コンテナ時代のWebサービスの作り方』での CircleCI ビルド時にハマったエラー対応を整理する

タダです. Terraform とコンテナの勉強の一環で「コンテナ時代のWebサービスの作り方」を読んでいます.本書では CI/CD に CircrlCI を使います.CircleCI の定義で本書の内容をそのまま転記した際にエラーが発生する場面がありました.CircleCI を触れるのが初…

『AWS Data Wrangler』の v1.0 がリリース! どんなアップデートがあったかを整理する

タダです. 以前紹介した「AWS Data Wrangler」が今年の4月に v1.0 でリリースされました.リリースから2ヶ月,過去記事に書いたものからどんなアップデートがあるかをまとめます. 公式ブログ aws.amazon.com 過去記事 sadayoshi-tada.hatenablog.com AWS Data …

監視の基本と戦略を学ぶなら『入門 監視』で勘所を押さえよう

タダです. 業務で3月から Datadog を使った監視の設定やチューニング,運用を担当することになったのですが,監視について学んだ経験がなかったため監視の勉強の一環として「入門 監視」を読みました.読了したので学んだことと所感と一緒に本書を紹介します. …