2020-01-01から1年間の記事一覧
タダです. 前回の記事で Aurora MySQL 互換のデータを SELECT INTO OUTFILE S3 を発行して S3 にエクスポートする情報を整理しました.今回は下記のドキュメントに沿って Aurora のスナップショットから特定テーブルデータをApache Parquet 形式で圧縮して S3…
タダです. 業務でデータ分析系に関わり始めたのですが,その技術調査として Aurora MySQL 互換から S3 へデータをエクスポートした時の検証を記事にまとめていきます.なお,Aurora のバージョンは 5.6.mysql_aurora.1.22.2 で検証してます. 準備 1. Aurora に…
タダです. 業務で使う PC を変えたのでそのセットアップを勉強の一環で Ansible でやってみました.セットアップしたのは次のマシンです.今回は備忘録として行った内容を記事に書いていきます. Macbook Pro 2020 Mac OS X Catalina 10.15.6 準備 定義ファイル…
タダです. Twitter でいろんな人が感想をツイートして気になっていた「その仕事、全部やめてみよう」を読み終えたので,書評記事を書いていきます. その仕事、全部やめてみよう――１％の本質をつかむ「シンプルな考え方」作者:小野 和俊発売日: 2020/07/30メデ…
タダです. データ分析に興味がありその勉強の一環で,8/21 に「AWS 認定 Machine Learning Speciality」を受けて合格しました.今回は自分がどんな勉強をしたかを振り返り,今後受験される方の勉強の参考になれば嬉しいです. 試験範囲について 試験勉強で注力し…
タダです. 「AWS Copilot CLI」がv0.3.0が8/14にリリースされました.v0.2.0が出たのが7/21だったので一カ月後に新しいバージョンがリリースされて開発が早いなと思います.この記事でv0.3.0のリリースノートを参照してどのような機能が追加されたかを整理して…
タダです. 前回「Data Engineering Study #1 」に続き「Data Engineering Study #2 」が開催されたので参加してきました.今回の記事では発表を聞いて感じたことやメモをとった内容をまとめていきます. forkwell.connpass.com イベント概要 第1回勉強会では「…
タダです. データレイクの設計や構築,運用の勉強をしたいと思い「AWS ではじめるデータレイク」を読んだので,書評記事を書いていきます. 公式サイト techiemedia.co.jp 物理本 AWSではじめるデータレイク: クラウドによる統合型データリポジトリ構築入門作者…
タダです. 新しい「Amazon Builders’ Library」の記事として「Building dashboards for operational visibility(運用の可視化のためのダッシュボードの構築)」が追加されました.このページを読んで Amazon での監視ダッシュボード構築・運用の取り組みを学ん…
タダです. 「AWS Copilot」のコマンドでcopilot pipelineからはじまるコマンドがあります.このコマンドでは,GitHub にコードをプッシュした時に CodeBuild,CodePipeline によるリリースパイプラインを作ることができます.この記事では,copilot pipelineコマ…
タダです. 「AWS Coplilot CLI」がv0.2.0になった時に追加されたcopilot storage initコマンドがあります.このコマンドで S3 もしくは DynamoDB を ECS のアプリケーションと関連づけられ,デプロイする時も一緒に展開されます.今回はストレージリソースを追…
タダです. 「AWS Copilot CLI」のコマンドとそのパラメーターでまだまだ知らないことが多いのでこの記事でコマンドとパラメーターを確認して,「AWS Copilot」の理解を深めたいと思います. 参照したドキュメント github.com なお,CLI のバージョンは 0.4.0 で…
タダです. QuickSight のハンズオンを試してみて,やっぱりオープンデータを使って自分なりに可視化してみたい！と思ったので東京都が公開している新型コロナウイルス関連のデータを可視化してみます. stopcovid19.metro.tokyo.lg.jp 可視化対象のデータセッ…
タダです. 現在プレビュー版ではありますが,AWS CDK アプリケーションの継続的デプロイメントを行う「CDK Pipeline」の記事が出ていたので記事を参考にこの機能を試してみました.記事を通してどんな実装を試せるのか,試してみての所感をまとめていきます. 日…
タダです. クラウドサービスの活用が増えていく中で企業の扱うデータは増えていって,そのデータを活用できるかって企業活動においてすごく大事だと感じてデータ分析に興味を持ったのですが,データ分析基盤の勉強会「Data Engineering Study #1 」が開催され…
タダです. 前回「Basic ハンズオン編」を終えたので今回は,「セルフBIサービス・販売管理ダッシュボード編」を取り組んでみたので学べることやハンズオンでどんな風にデータを可視化できるかをまとめていきます. sadayoshi-tada.hatenablog.com ハンズオン概…
タダです. 前回「Copilot CLI」の導入と Get Started の記事を書きました. sadayoshi-tada.hatenablog.com 今回は, 「AWS Copilot」(以下,Copilot)を理解するためにどんな概念や用語があるかを確認してツールの使い方を整理していきたいと思います. ツールの…
タダです. 業務で Athena を使ったログ解析で詰まったことがあったら都度記事にクエリの結果とその対処をまとめるシリーズをやってます.今回は CloudTrail ログの中から特定の API コール数がどこから発信されているかを確認する必要があった時の学びをこの…
タダです. QuickSight のハンズオンキットが公式ブログでアナウンスされていたのですが,QuickSight をあんまり使ったことがなかったのでこのハンズオンシリーズを通して QuickSight の使い方を学んでいきます.今回は,「Basicハンズオン編」を取り組んでみた…
タダです. 現在ベータ版ですが ECS や Fargate でのアプリケーションの作成/リリース/管理するための開発者向けツールである「AWS Copilot CLI」を触ってみました.この記事でツールの概要,ツールの導入,サンプルアプリケーションのデプロイを通じてこのツー…
タダです. 新しい「Amazon Builders' Library」の記事が公開されました.オンラインの輪読会で一通り記事は読んだのですが,追加された「Automating safe, hands-off deployments(安全なハンズオフデプロイメントの自動化)」を読んで Amazon での取り組みを学…
タダです. 小ネタですが,NLB のアクセスログを S3 に出す設定をしているもののログがでてなくてあれ？と思った機会があったので備忘録として記事に残しておきます. 結論 いきなり結論ですが,自分の場合は NLB の仕様で S3 にログが出ていませんでした.その仕…
タダです. GitHub Actions が正式リリースされたので使ってみたいと思い「GitHub Actions 実践入門」を技術書典応援祭で購入しました.本書を読了したので,学べることと所感をまとめていきます. 技術書典応援祭 techbookfest.org Booth miyajan.booth.pm 目次…
タダです. 現在プレビューですが,「CloudFormation Guard」というコマンドラインツールが使えるようになりました.このツールは CloudForamtion テンプレートが定めたポリシーと照らして設定値として正しいのかをチェックします. 公式ブログ aws.amazon.com G…
タダです. コンテナでアプリを動したり,その環境を Terraform で構成する経験を積んでいきたいと思い「コンテナ時代のWebサービスの作り方」を購入しました.本書を読了したので,学べることと所感をまとめていきます. Booth booth.pm 目次 本書で学べること …
タダです. Terraform とコンテナの勉強の一環で「コンテナ時代のWebサービスの作り方」を読んでいます.本書では CI/CD に CircrlCI を使います.CircleCI の定義で本書の内容をそのまま転記した際にエラーが発生する場面がありました.CircleCI を触れるのが初…
タダです. 以前紹介した「AWS Data Wrangler」が今年の4月に v1.0 でリリースされました.リリースから2ヶ月,過去記事に書いたものからどんなアップデートがあるかをまとめます. 公式ブログ aws.amazon.com 過去記事 sadayoshi-tada.hatenablog.com AWS Data …
タダです. 業務で3月から Datadog を使った監視の設定やチューニング,運用を担当することになったのですが,監視について学んだ経験がなかったため監視の勉強の一環として「入門 監視」を読みました.読了したので学んだことと所感と一緒に本書を紹介します. …
タダです. 最近,Terraform を業務で使ったのですがデプロイする環境が複数の AWS アカウントでした.同じコードをアカウントを変えてデプロイすることを初めてやってみてわかったのが tfstate ファイルを最初のデプロイ以降に Terraform 側でデプロイするたび…
タダです. 「AWS Outage Alerts」を検証した時の記事を書きましたが,先日自分が担当する業務でこの機能を実装しました.実装に至るまでに追加で設定を調べたり,検証してわかったことをこの記事で整理します. sadayoshi-tada.hatenablog.com 「AWS Outage Aler…
