継続は力なり

タイトル通り定期的な更新を心掛けるブログです。

11/26 AWSブログ

タダです。

今回のre:Inventでは、非常に多くのサービスや機能のアップデートがあるのでこまめにまとめていこうと思います。

26日のアップデートまとめ

1、re:Invent 2018に向けて 2018年11月後半アップデートのまとめ 第三弾

  • 11月後半のアップデートまとめ記事です(Part3)
    • 現地で常に発信し続けてくださるAWSJ亀田さんに感謝ですね

2、re:Invent 2018 AWS CloudFormation セッションガイド

  • re:InventのCloudFormationセッションの紹介記事です

3、re:Invent 2018 Midnight Madness/ AWS RoboMaker

  • ロボットアプリケーションの開発、テスト、および展開のための4つのコア機能を提供するAWS RoboMakerがリリースされました

4、re:Invent 2018 Midnight Madness/ AWS DataSync

  • AWSとの間のデータ転送が最大10倍となります。オンプレミスストレージとS3またはEFS間のデータの移動を自動化するためのデータ転送サービスの、AWS DataSyncがリリースされました

5、AWS RoboMaker-インテリジェントなロボットアプリケーションの開発、テスト、デプロイと管理

  • RoboMakerのリリースアナウンス記事です

6、re:Invent 2018 Midnight Madness/ AWS Transfer for SFTP

*SFTPを使用して、S3の内外にファイルを直接転送できるマネージドサービス・ AWS Transfer for SFTPがリリースされました

7、re:Invent 2018 11月26日 アップデートのまとめ

  • 11/26のアップデートまとめ記事です
    • こちらを見ればサマリを確認できます

以上が26日のアップデートまとめになります。

『ブレインパッドとエウレカが語る、データ分析と機械学習の活用』に行ってきた!

タダです。

この前、ブレインパッドさんとエウレカさんの興味深い勉強会に行ってきたので簡単なレポートを書きます。 brainpad.connpass.com

入場早々にビール振舞ってもらいまして、ホスピタリティー溢れる勉強会でしたね🍻

発表者ごとのまとめ

1,Pairsのデータ民主化の裏側

エウレカの鉄本環さんの発表。社内のデータチームの取り組みの紹介でした。

  • データチームは、CTO直轄のチーム
  • チームのテーマは、データ×〇〇をテーマに

大事してるのは、場づくり * アウトプット×フィードバック * 経営層からのマネージャーからのフィードバックを得られる仕組みを作った * 時間・知識・心理の障壁の除去 * 時間:スプレッドシートの情報をスライドを更新する * 知識:ドキュメント(用語、ログ定義、データベース * 心理:サービスデスクを開設

2,Pairsのログ基盤の概説と負債

エウレカの田中聡太郎さんの発表。

  • データ基盤構築

    • 目的はビジネスで必要なものをつけたし、ブラッシュアップする
    • データの価値を出す
  • データ基盤のこれから

    • 今は、データの収集が上がっている
    • 今の課題は、データの置き場になっていて、整然となっていない => データ置き場担っているデータを、データ毎にデータストアをつくろうとしている/データのバリデーション(アプリケーション側でデータの実装と定義がずれないようにする)
    • データから課題発見が仕切れてないので、課題発見していくような基盤にしていきたい

3,分析結果を意思決定者に使わせるための工夫

エウレカの大久保晋之介さんの発表。

  • 大久保さんはBIチームに所属
    • 社内の意思決定のためのデータを提供している

意思決定に使われない分析に価値はない * 使われない理由としては以下のもの * 分析結果が見辛い * 信頼できない:直感に反する/不測の事態を考慮していない(データ欠損や計算ミス)/分析精度が期待値以下 * 信頼性高めるためには結果の説明ができる、検算を行う、分析精度の合意をえる * アクションに繋げづらい * 分析結果の鮮度が悪い

  • 見やすい分析結果にするために

    • 簡易な表現を使う
    • 読みやすさに配慮
    • 定義を明治(分析結果にREADMEをつける)
    • 見るものを減らす重要性
  • 分析結果をアクションに繋げづらい状態を変える

    • アクションに至るまでの障壁を取り除く
    • 分析前に意思決定者とネクストアクションについて合意をとる
  • 分析結果の鮮度が悪い状態を変える

    • 締め切りに間に合わせる
    • 意思決定者の熱量を観察し行動する

オススメの書籍 * 感謝を変える分析の力 * データサイエンティスト養成読本 ビジネス編

4,データを使ってモテたい

エウレカの小林瑞紀さんの発表。僕もモテたいからより真剣に聞きましたw

  • Pairsのデータを使ってディープラーニングした結果の共有の発表内容でした
  • 以下のような分析されていました
    • コミュニティ同士の類似度(item2vec)
      • 旅行と読書がモテる趣味だとかw
    • 趣味の分析(word2vec)
    • マルコフ連鎖、LSTM
    • QRNN/2層LSTM

5,機械学習システムを受託開発する時に気をつけておきたい事

ブレインパッドの平木悠太さんの発表。

システムの各フェーズごとの注意点に関する発表です。

  • 受託開発
    • どこまでの業務をシステムに任せられるかを手探りで進める
    • フェーズ:企画、poc、プロト開発、システム開発
  • 登場人物

    • クライアント:現場の人、企画担当者(機械学習したい人)
  • 企画:

    • 機械学習何を解決したいか、具体的に何を自動化したいのかを実用性を検証可能な形で落とし込むためにクライアントに構想を語ってもらう
    • あるあるなのが、企画と現場は対立しているから現場に納得してもらう
  • PoC

    • 教師データを作るが、一番大変。。
    • クライアントがデータを持っていない場合もある
      • そんな時はwebからデータを集める、データを収集するシステムを提案する
  • プロト開発

    • フィードバックをもらう
    • 通常業務とプロトタイプを使う事での違いをもらうように伝える
      • プロトタイプを捨てる覚悟をしてもらう
  • 開発

6, 機械学習システム開発案件の事例紹介 画像分類編

ブレインパッドの塚原朋也さんの事例発表でした。

  • 課題

    • 業務のコスト削減
    • リリースをはやめにして、顧客の隠れた要望を引き出す
  • 要件やコスト感を考慮して、適切なシステム構成を行った

    • GCPのCloud AutoML APIは精度が高いため、見逃せない

7, DMPの分析機能を実現する技術

ブレインパッドの下村環太郎さんの社内システムのアーキテクチャの発表です。

  • Data Management Platform

    • マーケティングのツール
    • ユーザーが所有するデータを活用するための機能を提供
  • サービスの構成要素

    • DWH
    • 大規模データ処理:ETL処理、機械学習などDWHだけではできない処理
    • スケジューリング
    • 集計:DWHにクエリを投げる
    • 管理画面(SPA)
    • 他システムとのつなぎこみ
  • 主な構成

    • バッチ実行基盤:Apache Airflowを採用。ワーカーを増やすだけでスケールする
    • 分散処理クラスタ(DWH、複雑な処理):EMR(Presto,Spark)
    • ウェブアプリ:Vue.js、Pyramid

8,「れこめん道」- とあるエンジニアの苦闘の日々

ブレインパッドの柳原淳宏さんの発表。下村さん同様に社内システムがリリースされるまでの歴史とその後についての発表でした。

  • レコメンドのロジック
    • グラフ理論によるレコメンド手法: 類似度
      • グラフの探索によってアイテムの評価を行うため、探索範囲を伸ばす事で、近いユーザーの外側にいるユーザーの評価も加味できる
      • アイテム属性やユーザー属性を加味できる

まとめ

社内のデータ活用の話、機械学習システムの開発の話、社内システムの話全て面白かったです。

僕自身もこの領域に興味があるのでこの分野に関わっていけるようになりたい。。

11/18~11/25 AWSブログ

タダです。

今週のAWSブログアップデートまとめです。

今週のアップデートタイトル

1、AWS Dev Day Tokyo 2018 セキュリティセッション & ワークショップ 開催レポート

  • 表題のイベントのレポート記事です

2、New – ハイブリッドクラウド用 Amazon Route 53 Resolver

  • Route53 Resolver機能がリリースされました
    • オンプレとAWSをつないだ際のオンプレからの名前解決でDNSゾルバを作らずにこの機能で解決可能になりました

3、Amazon Transcribe でリアルタイムの文字起こしがサポート可能になりました

  • Transcribeで文字に起こされたテキストをリアルタイムで受け取ることを可能にするストリーミングトランスクリプション機能が提供されました

4、Amazon SageMaker でモデルトレーニング中にメトリクスを簡単にモニタリングして視覚化する

  • SageMakerによるCloudWatchの監視情報をトレーニングして、可視化する方法の紹介記事です

5、AWS re:Invent 2018 で開催予定の Amazon Kinesis セッション、チョークトーク、およびワークショップのご案内

  • re:InventのKinesis関連セッション紹介記事です

6、Oracle データベースを Amazon RDS PostgreSQL または Amazon Aurora PostgreSQL に移行する上でのベスト プラクティス: PostgreSQL 環境のターゲット データベースに関する考慮事項

  • DMSとSCTを使用してOracle データベースからの移行を支援するために PostgreSQL 環境を設定する方法の紹介記事です

7、ハイパーパラメータチューニングジョブのウォームスタートを使って、Amazon SageMaker 自動モデルチューニングの効率をさらに向上

  • SageMakerのハイパーパラメータチューニングジョブのウォームスタートが提供され、利用方法の紹介記事です

8、AWS で独自の自然言語モデルを構築する (機械学習経験は必要ありません)

  • Comprehendでユーザーが独自の自然言語モデルを作るカスタム機能がリリースされました
    • このカスタム機能を使うために機械学習経験は不要とのことです

9、Amazon Kinesis Agent for Windows を使用して、Windows DHCP Server ログを即時に利用可能なメトリクスへ変換する

  • Kinesis Agent for WindowsによるWindows DHCPサーバーのログをCloudWatch メトリクス化するための方法紹介記事です

10、re:Invent 2018 におけるユニークなセッション

  • re:Inventのセッション紹介記事です

11、Amazon S3 Block Public Access – アカウントとバケットのさらなる保護

  • S3 Block Public Accessがリリースされました
    • アカウント単位でのS3のACLの設定が可能になります

12、Amazon Comprehend カスタムエンティティの利用を開始する

  • Comprehendのカスタムエンティティ機能の利用方法の紹介記事です

13、Oracle データベースを Amazon RDS PostgreSQL または Amazon Aurora PostgreSQL に移行するための成功事例: Oracle および AWS DMS CDC 環境のソースデータベースに関する留意事項

  • シリーズ記事です
    • 今回は元の Oracle データベースの構成と環境を両方とも 1 回の移行と、CDCによる継続的なレプリケーションで設定する方法についてと、ソースデータベースの変更を保存するために Oracle DB コンポーネントを設定し、DMS環境を構築する紹介記事です

14、AWS での Apache Kafka の実行のためのベストプラクティス

  • 表題通りの紹介記事です

15、AWS Glue のクロスアカウントおよびクロスリージョンの接続を行う

  • Glue リソースを備えているのとは異なるアカウントやクロスリージョンのデータストアにアクセスする方法の紹介記事です

16、最新 – Amazon Comprehend でカスタム文書分類子をトレーニングする

  • Comprehendのカスタム分類と、適切なテキストから不適切な表現を含むテキストを分離するモデルのトレーニング方法の紹介記事です
    • 新しいテキストを分類するモデルの使用方法も紹介されています

17、Re:Invent 2018 での AWS ビッグデータと分析セッション

18、Oracle データベースを Amazon RDS PostgreSQL または Amazon Aurora PostgreSQL に移行するベストプラクティス: 移行プロセスとインフラストラクチャに関する考慮事項

  • シリーズ記事です
    • 今回は、DB移行ではネットワークのパフォーマンスについてもCPU、メモリと同様に重視せよというメッセージの記事になります

19、新機能 – 複数のインスタンスタイプをサポートする新しい EC2 Auto Scaling グループ & 購入オプション

  • AutoScalingで条件の変更に対応して拡張および縮小できる Auto Scaling グループの作成が可能になりました

20、新 – CloudFormation ドリフト検出

  • CloudFormationにドリフト検出機能が追加されました
    • CloudFormationで作成したリソースの手動変更したらそれを検出できます

21、只今準備中 – イタリア、ミラノの AWS リージョン

  • 現在準備中の新たなリージョンに関する紹介記事です

22、AWS GovCloud (米国東部) が開設されました

  • アメリカの連邦政府が利用しているGovCloudが提供されるようになりました
  • 利用できるのは以下の要件の場合になるようです

    AWS GovCloud (米国) は、審査済みの政府のお客様、および規制対象産業のお客様とそのパートナーに対して、FedRAMP High ベースライン、米国司法省の犯罪司法情報サービス部 (CJIS) セキュリティーポリシー、米国武器国際取引規則 (ITAR)、輸出管理規則 (EAR)、米国国防総省 (DoD) のラウドコンピューティングセキュリティ要件ガイド (SRG) インパクトレベル2、4、および 5、FIPS 140-2、IRS-1075、ならびにその他コンプライアンス体制に準拠したセキュアなクラウドソリューションを設計する柔軟性を提供します

23、新機能 – Machine Learning を中核とする EC2 の予測スケーリング

  • AutoScalingで機械学習を使って縮小/拡大の結果を学習し予測する機能がリリースされました

24、近日登場 – コンピューティング能力と GPU を増強した Snowball Edge

  • Snowball EdgeでCPUとGPUを増強したオプションを提供する予定のアナウンス記事です

25、AWS Database Migration Serviceを使用し、Amazon Kinesis Data Streamingを実施する

  • DMSを使ってKinesis Data Streamingに変更データをストリーミングする方法の紹介記事です

26、AWS Database Migration Serviceのターゲットとしての Amazon Elasticsearch Service の導入

  • DMSのターゲットデータベースにElasticsearch Serviceが追加されました

27、Amazon SageMaker IP Insights アルゴリズムを使用して、不審な IP アドレスを検出する

  • SageMakerのIP Insightsの紹介記事です

28、Amazon Kinesis Video Streams および Amazon SageMaker を使用したリアルタイムでのライブビデオの分析

  • SageMakerでKinesis Video Streamsが連携できるKinesis Video Streams Inference Template (KIT) が提供されました
  • このブログでは、Kinesis Video Streams クライアントライブラリと CloudFormation テンプレートとの両方の機能と Kinesis Video Streams をAmazon SageMaker に統合するための作業手順の紹介されています

29、AWS Application Auto Scaling を使用した Amazon Kinesis Data Streams のスケーリング

  • Kinesis Data Stream に対してシャードを自動的に追加・削除するスケーリングポリシーを定義できる機能がApplication Auto Scalingで提供されました

30、Amazon SageMaker と Amazon Redshift を利用した、高速・柔軟・セキュアな機械学習基盤の構築

  • SageMakerとRedshift を利用し、大規模データセットに対して高速かつ柔軟にデータ分析を行う方法及び、実ユースケースでも利用できるように、セキュリティ面でも安全なアーキテクチャの構成方法の紹介記事です

31、Amazon Lex で会話型ビジネスインテリジェンスボットを構築する

  • Lexを使ってビジネスインテリジェンス (BI) チャットボットを実装する方法の紹介記事です

32、Amazon Redshiftのクラスターを数分で上下に拡張することで、必要なときに必要なパフォーマンスを得ることができます

  • Redshiftのクラスターを数分でリサイズ、リソースの増減が可能になりました

33、Amazon SageMakerの新機能: ワークフロー、アルゴリズム、認定

  • SageMakerの新機能のサマリ記事です

34、Oracle Database による AWS Database Migration Service と Accelario によるダウンタイムゼロの移行

  • Oracle DatabaseからDMSとAccelarioによるEC2 または Amazon RDS(データマスキングも使用)に移行する方法の紹介記事です

35、Amazon Rekognition が、顔の検出、分析、認識機能の更新を発表

  • Reckognitonで、顔の検出、分析、認識機能が更新され、画像からより多くの顔を検出し、より正確な顔のマッチングを実行し、画像内の顔から年齢、性別、感情の属性を取得する能力が向上されました

36、新しい AWS Resource Access Manager – クロスアカウントでのリソース共有

  • AWS Resource Access Manager (RAM) がリリースされました
    • これは、AWS アカウント間でのリソース共有を容易にするためのサービスです

37、re:Invent 2018に向けて 2018年11月後半アップデートのまとめ 第一弾

  • 11月後半にあったアップデートの紹介記事です(Part1)

38、re:Invent 2018に向けて 2018年11月後半アップデートのまとめ 第二弾

  • 11月後半にあったアップデートの紹介記事です(Part2)

以上が今週のアップデートまとめです。

11/12~11/17 AWSブログ

タダです。

今週のAWSブログアップデートをまとめていきます。

今週のアップデートタイトル

1、AWS、ヘルスケア顧客向けの HIPAA 適格 machine learning サービスを拡大

  • HIPAA 対象サービスのリストに Amazon Translate、Amazon Transcribe、Amazon Comprehendが追加されました

2、Amazon Aurora PostgreSQL によるフェイルオーバー

  • Aurora PostgreSQL互換版のクラスターとエンドポイントの概要と、設定の変更を最小限に抑えて読み込みのフェイルオーバーとロードバランシングを実現する方法の紹介記事です

3、Amazon SageMaker を使用した K-means クラスタリング

4、Amazon SQS のFIFO機能が東京リージョンでもご利用いただけるようになりました

  • SQSのFIFO機能が東京リージョンで提供されました

5、RDS データベースに汎用 IOPS またはプロビジョンド IOPS のどちらを使用するかを決定するための CloudWatch メトリクスの使用方法

  • RDSに汎用 IOPS またはプロビジョンド IOPS のどちらを使用するかを決定するための CloudWatch メトリクスの使用方法の紹介記事です

6、AWS Quest 2 更新情報: re:Invent への旅は続く

  • re:Inventのシリーズ記事です

7、Amazon SageMaker Object2Vec の概要

8、AWS Dev Day Tokyo 2018 Machine Learning トラック資料公開

  • 表題のイベントの資料公開記事です

9、新機能 – Redis 5.0 互換の Amazon ElastiCache

  • ElatiCacheでRedis 5.0互換がリリースされました

10、リアルタイム予測のために Amazon SageMaker を使用して Amazon DynamoDB でデータを分析する

  • S3 のテーブルデータを使ってて、DynamoDB テーブルの読み込み容量を最適化することで、DynamoDB でデータを分析する方法の紹介記事です
    • 分析したデータを新しいデータソースとして使用して、正確なリアルタイム予測のためのSageMaker モデルをトレーニングし、Athena でS3 上のデータに対してアドホッククエリも実行しました。
    • Data Pipeline を用いて、これらの手順を自動化する方法も紹介されてます

11、AWS re:Invent 2018 で開催予定の IoT セッションのご案内

  • re:InvetのIoTセッションの紹介記事です

12、AWS Black Belt オンラインセミナーのご案内 (2018 年 12月)

  • 表題のイベント記事です

13、[AWS Black Belt Online Seminar] AWS Direct Connect 資料及び QA 公開

  • 表題の資料公開とQA公開記事です

以上が今週のブログアップデートまとめです。

11/4~11/10 AWSブログ

タダです。

今週のAWSブログアップデートをまとめていきます。

今週は記事が大量にアップデートされているので、更新できるタイミングで更新していきます。

今週のアップデートタイトル

1、AWS DevDay Tokyo 2018 Database トラック資料公開

  • 表題の通りの資料が公開されたアナウンス記事です

2、Amazon SageMaker Jupyterノートブックを使用してAmazon Neptune グラフを分析する

  • SageMaker ノートブックを Amazon Neptune データベースに接続してクエリをして結果を視覚化する方法の紹介記事です
    • 上記の環境を作るためのCloudFormationテンプレートも紹介されています

3、地震を追跡中: Amazon Redshift によりETL処理を通じて視覚化のための非構造化データセットを準備する方法

  • Matillion ETL for Amazon Redshift を使用して、S3、Athena、Amazon Redshift の間のさまざまなデータ処理タスクの活動を編成する方法の紹介記事です

4、パフォーマンスの重要性: Amazon Redshift で実環境のワークロードが 3.5 倍の速さに

  • Redshiftのパフォーマンス改善に関する紹介記事です

5、Amazon RDS for SQL Server でデータベースメールをパワーアップ – アンダーアーマーが Amazon RDS for SQL Server でデータベースメールを運用する方法

  • アンダーアーマー社ではSQL Serverからメールを送っていたがRDSではメールの送信がサポートされてなかったため、EC2とSESを使って問題を解決するための手法紹介記事です

6、CSVデータセットのPipeモードを使って、Amazon SageMaker内蔵アルゴリズムでトレーニングがより早く

7、AWS での SQL Server のパフォーマンスベンチマーク

8、AWS Quest 2 – re:Invent への道

  • re:Invent内でのイベント紹介記事です

9、Amazon CloudWatch を使用して Performance Insights メトリックにアラームを設定する

  • RDSのパフォーマンインサイトの機能を使うとCloudWatchからアラームを飛ばせるという紹介記事です
  • 以下のメトリックスが有効化されており、それぞれの監視するステータスは以下の通りです
    • DBLoad : 同時にアクティブとなるデータベース接続数の尺度
    • DBLoadCPU : CPU 上でアクティブかつ実行可能なデータベース接続の数
    • DBLoadNonCPU : 接続が I/O、ロック、データベースバッファーなどのデータベースリソースを待機していた時間

10、SGK が RDBMS から Amazon DynamoDB に移行することにより、高度に動的なワークロードのデータ構造を簡素化する方法

  • SGK社のDynamoDB移行に関する設計の紹介記事です

11、Amazon Elasticsearch Service のインプレースバージョンアップグレード

  • Elasticserch Serviceでの5.1 Elasticsearch ドメインから 6.3 Elasticsearch ドメインに移行する方法紹介記事です

12、ProxySQL と Percona Monitoring and Management で、Amazon RDS for MySQL のデプロイを強化する

  • RDS for MySQLと、ProxySQL、Percona Monitoring and Managementを組み合わせてRDS for MySQLのデプロイを強化する方法の紹介記事です

13、AWS re:Invent 2018 で開催予定の Amazon DynamoDB セッション、ワークショップ、およびチョークトークのご案内

  • 表題のアナウンス記事です

14、Oracle データベースでの Amazon EBS エラスティックボリュームの使用 (パート2): LVMを 使ったデータベース

  • ストレージ管理に LVM を使用する Oracle データベースであるEC2 のストレージレイアウトについて検討し、可用性に影響を与えることなくデータベースストレージを拡張する方法の紹介記事です

15、Oracle データベースでの Amazon EBS エラスティックボリュームの使用 (パート 3): Oracle ASM を使ったデータベース

  • Oracle Automated Storage Management (Oracle ASM) を使った Oracle データベース用EC2 のストレージレイアウトについて解説記事です
  • 可用性に影響を与えずに、データベースストレージを拡張する方法とOracle データベースでエラスティックボリュームを使用する利点についても紹介しています

16、Amazon QuickSight でメールレポートとデータラベルのサポートを開始

  • QuickSight で利用できるようになった、メールレポートとデータラベルの紹介記事です

17、Pagely が、カスタマーサポートの分析を容易にするために AWS でサーバーレスデータレイクを実装

  • Pagely社が Beyondsoft社とどのように協力して、Beyondsoft が開発したオープンソースツールである ConvergDB を使用して DevOps 中心のデータパイプラインを構築したかについての紹介記事です
    • このパイプラインでは、Glue を使用してアプリケーションログを最適化されたテーブルに変換し、Athena を使用して迅速かつ費用対効果の高いクエリを実行できているそうです

18、SimilarWeb が、Amazon Athena と Upsolver を使って毎月数百テラバイトのデータを分析する方法

  • SimilarWeb社がAthenaとUpsolverを使ったデータ解析事例紹介記事です

19、Equinox フィットネスクラブで、Amazon Redshift を使用して顧客のジャーニーループを閉じる

  • Equinox社でのクリックデータストリームをS3と、Spark、AthnaRedshiftを組み合わせて分析基盤を作った事例紹介記事です

20、一時的認証情報を使用してフェデレーティッドアイデンティティで、Amazon Athena に接続する

  • 一時的認証情報を使ってAthenaにアクセスする方法の紹介記事です

21、Amazon Athena で CTAS ステートメントを使用して、コストを削減し、パフォーマンスを向上させる

22、Amazon Redshift を使用して、デジタルコンテンツを収益化するプロデューサーを支援している Narrativ

  • Narrativ社のデータ分析基盤としてRedshift、Redshift Specturum、S3を使った事例の紹介記事です

23、AWS DevDay Tokyo 2018 Severless&Mobile トラック資料公開

  • 表題の資料が公開されたアナウンス記事です

24、新低コストAMD動力M5a および R5a EC2インスタンス

25、RStudio を実行するために Amazon EMR のエッジノードを立ち上げる

  • リモートワークロード用に構成された RStudio Server とともに Amazon EC2Amazon EMR のエッジノードとして構成する方法の紹介記事です

26、Amazon Kinesis Agent for Microsoft Windows を使用して、Windows イベント、ログ、およびメトリックを収集、解析、変換、ストリーム配信する

27、Amazon QuickSight で表計算による高度な分析を行う

  • QuickSightで表計算機能がリリースされました
  • ブログではサンプルの販売データセットに適用する方法の紹介しています

28、Amazon Aurora を使用してエンドユーザーの待ち時間を 3 倍に改善する方法

  • InfoScount社のAurora利用事例の記事です

29、AWS PrivateLink エンドポイントを使用することで、Amazon VPC から Amazon SageMaker ノートブックに直接アクセスする

  • SageMakerノートブックインスタンスVPC PrivateLinkでアクセスする方法の紹介記事です

30、Amazon SageMaker でノートブックのボリュームサイズを最大 16 TB までカスタマイズできます

  • SageMakerノートブックインスタンスのストレージは最大16TBまでサポートされている紹介記事です

31、Amazon SageMaker ノートブックインスタンスのためのライフサイクル設定の更新

  • SageMakerノートブックインスタンスのライフサイクル設定の紹介記事です

32、EMR – Sqoop を使用して RDBMS またはオンプレミスデータを EMR Hive、S3、および Amazon Redshift に移行する

33、Annalect が Amazon Redshift を使ってイベントログデータ分析ソリューションを構築した方法

  • Annalect 社広告テクノロジーパートナーからのイベントログデータを管理、強化、そして分析するために、どのように AWS でソリューションを構築したかについて紹介しています
    • S3、EC2 と AWS Batch、データのカタログ化にGlue、そして分析用にRedshift と Amazon Redshift Spectrum を使用しています

34、Amazon EMR および IoT センサーネットワークで Apache Flink の複合イベント処理を使用したリアルタイムの山火事警告

  • IoT からリアルタイムで受信する温度イベントを通じて潜在的な山火事のパターンを検知し、E メールでアラートを送信するために、Apache Flink の複合イベント処理 (CEP) によって提供されるイベント処理パラダイムの紹介記事です

35、AWS IoT とサーバーレスデータレイクを使用したフロントライン脳震盪モニタリングシステムの構築方法 – パート 1

  • データレイクをサポートするデータパイプラインの構築方法の紹介記事です
    • Kinesis Data Streams、Kinesis Data Analytics、Kinesis Data Firehose、およびLambda を使います

36、AWS Glue を使用することによってオンプレミスデータストアにアクセスして分析する方法

  • Glueを使ってオンプレミスのデータにアクセスし分析する方法の紹介記事です

37、AWS IoT とサーバーレスデータレイクを使用したフロントライン脳震盪モニタリングシステムの構築方法 – パート 2

  • データレイクをサポートするデータパイプラインの構築方法の紹介記事です
    • 主要分析を使って実用的なデータを作成するサーバーレスデータレイクを作成することによってデータを処理し、可視化する方法の紹介記事です

38、Camp re:Invent Trivia Challengeに参加してください

  • re:InventのTrivia Challengeの紹介記事です

39、リソースレベルの IAM アクセス許可とリソースベースのポリシーで、AWS Glue データカタログへのアクセスを制限する

  • IAMの制御でGlueのデータカタログにアクセスする手法の紹介記事です

40、AWS について学ぶ – 11 月の AWS オンラインテックトーク

  • 表題のイベントの紹介記事です

41、Performance Insights を使用して Amazon Aurora の MySQL のワークロードを分析する

  • Aurora MySQL互換でPerformance Insightsを使って負荷状況を確認する手法の紹介記事です

42、OracleデータベースでのAmazon EBS調整可能な容量の使用(パート1):紹介

43、AWSデータベース対応プログラムの紹介

  • AWS Database Ready Programの紹介記事です

44、Amazon Elasticsearch Service を使用して GuardDuty でセキュリティをリアルタイムで監視する

  • ES を使用して GuardDuty 調査結果の集約、検索、分析を行う方法の紹介記事です

45、RDS SQL Serverには、ワクワクする新しい2つのバックアップ機能とリストア機能があります

  • RDS for SQL Serverは、SQL Serverのネイティブバックアップとリストアに関する2つの重要な改善点がリリースされました
    • S3バケット内の単一の.bakファイルとして、SQL Serverデータベースの完全データベースバックアップ
    • S3バケットからRDS SQL Serverにバックアップをリストアすることもできる

46、AWS Database Migration Service を使用して PostgreSQL 10 のネイティブパーティション表に移行する

47、Database Migration Service を使用して、リレーショナルデータベースから Amazon Kinesis に CDC データをロードする

  • RDS for SQL Server データベースへの変更をキャプチャしてKinesis Data Streams に送信する方法及び、S3とAWS Lambda をデータの初期ロードに使用する方法と、DMSを進行中のレプリケーションに使用する方法の紹介記事です

48、Amazon DynamoDBの適応能力が不均一なデータアクセスパターンに対応する仕組み(または、なぜDynamoDBについて知っている情報が古くなっているのか)

  • 以下の紹介記事です
    • DynamoDBがどのようにしてパーティションとサーバー間でデータを分割させるのか
    • 不均一なワークロードの問題を修正する、適応能力と呼ばれる機能を紹介
    • 適応能力を実証するために、AWSアカウントで実行できるサンプルアプリケーションを紹介

49、AWS GlueとAmazon Athenaを使用して、Amazon DynamoDBのデータ抽出と分析を簡素化

  • Glueを使用してDynamoDBテーブルをクロールし、Amazon S3にデータを抽出し、Amazon AthenaでSQLクエリを使用して分析を実行する方法の紹介記事です

50、過去18ヶ月間で見逃した可能性のあるAmazon DynamoDBのハイライト

  • 表題のDynamoDBのアップデートまとめ記事です

51、Apache Cassandra データベースから Amazon DynamoDB への移行を容易にする

  • Cassandra データベースから DynamoDB テーブルにデータを一括ロードする方法及び、DMSとSCT を使用して切り替える準備が整うまで、DynamoDB テーブルをソースと完全に同期した状態を維持する方法の紹介記事です

52、Performance Insights で Amazon RDS for MySQL をチューニングする

  • RDS for MySQLにおけるPerfomance Insightsの利用方法の紹介記事です

53、Amazon Kinesis および Amazon Athena を使用して VPC ネットワークのトラフィックを分析および視覚化する

  • VPC フローのログデータを収集、分析、視覚化する方法の紹介記事です
    • CloudFormation テンプレートも紹介されています

54、Amazon DynamoDB ストリームを使用して、順序付けされたデータをアプリケーション間でレプリケーションする方法

  • AWS サービスを使用して DynamoDB ストリームを処理するための複数のパターンの紹介記事です
    • 他のシステムやユーザーに通知し、トランザクションアーカイブし、順序付けされた処理を維持しながらデータを別のデータストアにレプリケートするために、ほぼリアルタイムの DynamoDB ストリーム処理を実行できる最も信頼性の高いスケーラブルなパターンにも触れています

55、AWS Database Migration Service を使用して Amazon Aurora から Amazon S3 にデータをレプリケート

  • AuroraのデータをDMS経由でS3へレプリケートする方法の紹介記事です

56、アプリケーションをオンプレミスの Oracle データベースから Amazon RDS for PostgreSQL に移行する方法

  • 共通の Java アプリケーションと Hibernate のレイヤーにおける変更と、Java アプリケーションを Oracle からRDS for PostgreSQL に移行した際に明らかとなった、アプリケーション層を管理するためのベストプラクティスと方針についての紹介記事です

57、Amazon RDS for SQL Server 上で SQL Server 2008 R2 から SQL Server 2016 にアップグレードする方法に関するベストプラクティス

  • RDS for SQL Server 2008 R2 から RDS for SQL Server 2016 にアップグレードする方法の紹介記事です

58、Elasticsearch チュートリアル: クイックスタートガイド

  • 表題の通りの記事です

59、SQL Server エージェントのジョブを AWS Step Functions に置き換える

  • Microsoft SQL Server からAurora PostgreSQL への移行の場合に、SQL エージェントのジョブをStep Functionsを使用して SQL エージェントのジョブを置き換える方法の紹介記事です

60、Oracle 自律型トランザクションを PostgreSQL に移行する

61、New Innovations はいかにして研修医管理プラットフォームを Microsoft SQL Server から Amazon Aurora PostgreSQL へ移行したのか

62、AWS Lambda、Amazon Route 53、および Amazon SNS を使用して、Redis クラスター用 Amazon ElastiCache (クラスターモードが無効) のリードレプリカエンドポイントを監視します

  • SNS をリッスンし、Redis クラスター用ElastiCache (クラスターモードが無効) のリードレプリカに使用される CNAME を更新するLambda 関数の作成手順の紹介記事です

63、AWS Schema Conversion Tool ブログシリーズ: ビルド 617 の新機能紹介

  • SCTのアップデートの紹介記事です

64、ソートキーを使用して、Amazon DynamoDB でデータを編成する

  • DynamoDBのソートキーを使用した、データを取得するための最適化テーブルの紹介記事です
    • ソートキーを使用すると、データをグループ化し編成するだけでなく、テーブル内の項目に対してクエリを実行する追加手段にもなります

65、専用の AWS Glue VPC を使用して複数の VPC 間で ETL ジョブに接続し、実行する

  • VPC の 1 つのソースから消費し、別の VPC の別のソースに出力する ETL パイプラインを構築するために必要なステップの紹介記事です
    • 複数の VPC で設定し、データベースインスタンスがセキュリティ、監査、その他の目的で複数の VPC に分離されている状況を再現します

66、Amazon SageMaker で増分学習を簡単に実行する

  • SageMaker の増分学習機能を使用して転移学習を実行する方法の紹介記事です

67、グラフ化なら、おまかせください (パート 1 – 航空ルートの事例)

  • Amazon Naptuneのシリーズ記事です
    • グラフアプリケーションデータセットと、多数の異なるドメインおよび問題空間から取り出されたクエリを探求します

68、今すぐ利用可能 – AWS Marketplaceの新しいRHEL for SAP with HA and US

以上が今週のアップデートまとめになります。