継続は力なり

タイトル通り定期的な更新を心掛けるブログです。

ゼロから始めるディープラーニング 2章

タダです。

今回から以下の本を読んだ内容を各章ごとにまとめていきたいと思います。
※記事は理解ができるたびに何度もアップデートしていこうと思います。
www.oreilly.co.jp

目次

なお、各章の内容は次の通りです。

1章はPythonの基本だったので割愛して、2章から手をつけていきます。

パーセプトロンについて

2章はパーセプトロンについてです。
パーセプトロンディープラーニングででてくるニューラルネットワークの起源となるアルゴリズムになります。

f:id:sadayoshi_tada:20180107164844p:plain

  • x1とx2は入力信号、yは出力信号で、w1とw2が重みを表す
  • 図の◯は「ニューロン」や「ノード」と呼ばれる
  • 入力信号はニューロンに送られる前に送られてきた信号の総和が計算され、それぞれに固有の重みが乗算される(w1x1、w2x2)
  • 1が出力される時をx1とx2の総和が限界死を超えた場合、閾値と呼ぶ(θ)
  • 重みが重いほど重要性が増す

論理回路

論理回路としてANDゲート(2つの出力が1の場合に1を出力し、それ以外は0になる)やNANDゲートとORゲート、XORゲートがあります。

ANDゲート

x1 x2 y
0 0 0
0 1 0
1 0 0
1 1 1

NANDゲート

x1 x2 y
0 0 1
0 1 1
1 0 1
1 1 0

ORゲート

x1 x2 y
0 0 0
0 1 1
1 0 1
1 1 1

重みとバイアス

パーセプトロンでは、入力信号に重みが乗算された値とバイアス(b)の話が計算され、その値が0を上回れば1を出力します。
そうでなれけば、0を出力します。

  • バイアスは重みとは違う働きをする
  • 重みは入力信号への重要度をコントロールするパラメーターだが、バイアスは、出力信号が1を出力する度合いを調整するパラメーター

パーセプトロンの限界

XORゲート

x1 x2 y
0 0 0
0 1 1
1 0 1
1 1 0
  • パーセプトロンでは、各ゲートの出力を直線によって表現するが、XORゲートは曲線で表現するためパーセプトロンでは実装できない
  • 曲線で表現されるものを非線形、直線で表現されるものを線形という

層を重ねる

以上が2章のまとめになります。
次回は3章ニューラルネットワークです!

1/1~1/7 AWSブログ

タダです。


2018年最初のAWSブログのアップデートまとめです。

1、Amazon Auroraを使用したMagento Content Servicesの構築をAWS Quick Startで加速させる

  • Quickstartで、Magento Open Source(以前のCommunity Edition)バージョン2.1.9クラスタが使えるようになり、DBにAuroraを利用した構成を作れます

2、AWS Direct Connectアップデート– 2017年後半に追加された新ロケーション10か所

  • 昨年の12月にDXのロケーションとして10カ所が追加されました

3、AWS Lambda および Tensorflow を使用してディープラーニングモデルをデプロイする方法

  • LambdaをつかってTensorflowのディープラーニングモデルをデプロイする方法の紹介記事です
  • LambdaにデプロイするためにEC2で学習モデルを構築する必要があります


今週のブログまとめは以上です。

2017年の振り返りと2018年の抱負

タダです。

明けましておめでとうございます!😃

今年もよろしくお願いします 🙏

ただいま、実家に帰省して堕落した生活に陥っているのですが、昨年の振り返りと今年の抱負を書いておこうと思います。

2017年の振り返り

昨年は転職して1年が経過したので、仕事にも慣れてきた年でした。

2016年はAWSの専業の会社に転職したので、今までできなかった外部での登壇を業務経験から得たもので発表させていただいて刺激をもらいました。

2017年は外部での発表はできなかったですが、技術的なチャレンジや自分の中での未体験な事にチャレンジできた年になったなーと思います。

技術的なチャレンジ

業務でLambdaとの組み合わせを提案したり、DMSでDB移行したりと今までにない経験をさせていただきました。

blog.serverworks.co.jp blog.serverworks.co.jp blog.serverworks.co.jp

未体験な事

何と言ってもre:Inventの参加でした。

刺激的な1週間で現場で感じた盛り上がりもさることながら、Gamedayに参加して自分たちも技術的に通用する事も実感できました。

blog.serverworks.co.jp

あとは、AdventCalenderにも参加してみました。やはり業務だけでは得られない体験やそのアウトプットが自分を高めてくれると再確認しました。まだまだへなちょこですが...😓

blog.serverworks.co.jp blog.serverworks.co.jp

2018年の抱負

2018年のテーマは 継続的アウトプット(アウトプット駆動学習)を習慣化する です。

id:kakku22さんのブログに触発されたんですけどw

でも自分自身、インプットした知識をアウトプットする事の大切さを感じているので、習慣化したいです。

というのと、自分自身の中で何でもトガる技術を身に付けたいと思っているので、勉強とアウトプットのサイクルを回せるようにしたい。

kakakakakku.hatenablog.com

そのための前提

前提としてルールを自分の中で決めてみました。

  • 週に1回ブログを書く(はてなかQiitaで)
  • 月ごとにテーマをもって学習する(自分の中での関心ワードを深ぼる)
    • テーマ一つが完了するごとに、簡単な振り返りもする
  • 脱、積ん読
    • 積ん読化してしまうことで学習機会を減退するので、期限をきめて読み込む

ひとまず、上記のルールでやってみようと思っています。

1月のテーマ

今月のテーマは、機械学習ディープラーニングです。 既に、以下の本を読み始めているので、この本で学んだ事をアウトプットしていきます。

www.oreilly.co.jp

20180128追記 一ヶ月間で毎週のアウトプットできたものも、予定より2章分遅れている。。 頭で理解できなくて詰まっちゃっていたから2章分の遅れがある。 優先すべきは消化してアウトプットする部分。 何度も読むことになるからこれからはひとまずはアウトプットできるように一章分を読み切る。 そんで、ブログを書く。

その他の学習トピック

その他にも気になるトピックはあるので、次々チャレンジしていこうという心意気です。

  • プログラミング(PythonとGo。まずは、Python)
  • コンテナ
  • Alexa
  • サーバーレス etc

最後に

2018年は心意気だけで終わらずちゃんと自分の身になるよう動いていければと思っています。

JAWS DAYSももう間も無く始まりますね!

jawsdays2018.jaws-ug.jp

いろいろとやりたいことがたくさんるのですが、ひとつずつチャレンジして実りある1年になればなと思っていますので、2018年もよろしくお願いします!

11/20~11/25 AWSブログ

タダです。


明日からre:Inventにいくため日本を発ちます。
初海外がre:Inventなんてワクワク、ドキドキしています。

さて、日本出発前夜に今週のAWSブログのアップデートをまとめていきます。

1、New – AWS OpsWorks for Puppet Enterprise

  • OpsWorksでPuppetをサポートする、OpsWorks for Puppet Enterpriseがリリースされました
  • まだ日本にはリリースされてないです

2、Amazon EC2 の更新 – X1e インスタンスに 5 つのサイズを追加、SLA の強化

  • EC2のX1eインスタンスのファミリーが増えました(X1e.xlarge、2xlarge、4xlarge、8xlarge、16xlarge、32Xlarge)
  • EC2 と EBSのSLAが強化され、99.99%に引き上げられました

3、Machine Learning ユーザー向けの新しい AWS Deep Learning AMI

  • DeepLearning用のAMIが2つリリースされました
  • 1つは、CondaベースのAMIで、もう1つはGPUドライバとライブラリを使うためのAMIになります

4、AWS Deep Learning Conda と Base AMI の利用開始について

  • 「Machine Learning ユーザー向けの新しい AWS Deep Learning AMI」で発表されたCondaベースのAMIに関する記事です
  • 各種設定やJupyterNotebookでの管理について紹介されてます

5、Amazon Polly が 9 つの対象 AWS リージョン、韓国語のサポート、新しいインド英語音声を追加

  • Pollyのサポートリージョンが9つ追加されました
  • サポート言語に韓国語が追加されました

6、Amazon QuickSight の更新 – 地理空間の可視化、プライベートVPCアクセス、その他

  • QuickSightの事例、アップデートのサマリーの紹介、新しい機能として以下のものが追加されました

地理空間の可視化 – 位置情報データセットを地理空間に可視化することが可能になります。

プライベートVPCアクセス – VPC内、またはオンプレミスデータに対し、パブリックなエンドポイント無しにセキュアに接続できる新しい機能のプレビューに参加することができます。

フラットテーブルのサポート – ピボットテーブルに加えて、表形式レポート用のフラットテーブルを使用することができます。詳しくは Using Tabular Reports を参照ください。

SPICE上のデータに対して計算フィールドを適用する – SPICE上のデータに対して計算フィールドを適用することができます。詳しくは 分析への計算フィールドの追加 を参照ください。

ワイドテーブルのサポート – テーブルあたり1000カラムまで使用することができます。

「その他」をまとめて表示 – カーディナリティの高いロングテールデータを、「その他」としてまとめて表示することができます。詳しくは Amazon QuickSight でビジュアルタイプを使用する を参照ください。

HIPAA コンプライアンス – QuickSightでHIPAAコンプライアンス準拠のワークロードに対応できます。

7、Scaling Your Amazon RDS Instance Vertically and Horizontally

  • RDSでの垂直スケーリングとしてインスタンスのスケールアップ、水平スケーリングとしてリードレプリカの手法紹介記事です
  • 水平スケーリングのリードレプリカの前段にL4またはL7ロードバランサをMySQL Connctorと使用する例も紹介されてます

8、Apache MXNet で ONNX をサポート

  • AWSがOpen Neural Network Exchange(ONNX)をApache MXNetにインポートするパッケージ(ONNX-MXNET)の利用開始を発表しました
  • ONNXの利用方法も紹介されてます

9、Amazon Elasticsearch Service へのアクセスコントロールの設定

  • Elasticsearchのアクセスコントロールについて、VPC内とVPC外それぞれ紹介の記事になります

10、AWS Shield Advancedを使用してAmazon EC2インスタンスとNetwork Load Balancerを保護できるようになりました

  • AWS Shield Advancedをつかって、EC2とNLBの保護がサポートされました
  • 保護するためにはEIPを振る必要があります

12、Amazon EC2 Systems Manager による Microsoft VSS を使用したスナップショットサポート

  • SSMでMicrosoft VSSのEBSスナップショットのバックアップがサポートされました

13、AWS IoT の更新 – 新しい料金モデルでより優れた価値を提供

  • AWS IoTの料金モデルとなりました
  • このアップデートにより約20 ~ 40%のコスト削減になります

14、自律走行車の構築 パート 4: 自動運転の車で Apache MXNet と行動クローニングを使用

  • 自律走行シリーズ記事で、最終回の今回は自動車のApache MXNetと行動クローニングの使用を紹介する記事です

17、AWS ディープラーニング AMI を使用してディープラーニングを開始

18、Amazon Lex を使った Bot の作成

  • Lexでぼっと開発のシリーズ記事の初回です
  • 今回はボットの設計と、テストについて紹介しています


以上が今回のまとめになります。

11/13~11/19 AWSブログ

タダです。

Amazon Echo買いました!ワクワクしますねーこういうテクノロジーは。
さて、今週のAWSブログアップデートをまとめていきます。

1、Amazon ElastiCache の更新 – Redis クラスターのオンラインサイズ変更

  • ElastiCacheでRedisクラスターのオンラインでサイズ変更ができるようになりました
  • クラスターをオフラインにしたり、空のキャッシュを使用しなくても、トラフィックやデータのボリュームの変更可能になりました

2、がんの早期発見を促進するために Matrix Analytics が AWS でディープラーニングを使用

  • AWSディープラーニング用いた、Matrix Analyticsシステムの事例紹介記事です
  • がんの早期発見に役立つことになっているシステムだそうです

3、Amazon ElastiCache for Redis を使ったChatアプリの開発

  • ElastiCahe for Redisを使ったチャットボットシステム構築紹介記事です

4、詳解: Amazon ECSのタスクネットワーク

  • ECSのTask Networkingの詳説記事になります

5、OracleDBからPostgreSQLへの移行

  • OracleからPostgreSQLへDMSを使った移行紹介記事です
  • AuroraのPostgreSQL互換がでましたし、そのPRも兼ねてるのかなと思いました

6、AWS コミュニティの新しいヒーローのご紹介 (2017 年 – 秋版)

  • AWSコミュニティヒーロ紹介記事です
  • 以下の4名の方が選ばれました、おめでとうございます!

・Anh Ho Viet
・Thorsten Höger
・Becky Zhang
・Nilesh Vaghela

7、SAP on AWSにおけるVPCサブネットのゾーニングパターン 第3回:内部および外部接続

  • SAP on AWSの連載記事で、今回は内部接続と外部接続の両方を必要とするSAPアプリケーションの接続パターンの紹介記事です

8、日本準拠法に関する AWS カスタマーアグリーメントの変更: AWS Artifact

  • AWS Artifactで日本準拠法に関するAWSカスタマーアグリーメント変更契約をリアルタイム締結・変更が可能になりました

9、自律走行車の構築 パート 3: 自律走行車の接続

  • 自律走行システムを構築するシリーズ記事で、今回は自動車から AWS にテレメトリをストリーミングするプロセスの紹介記事になります

10、Amazon DynamoDB からのデータストリームを AWS Lambda と Amazon Kinesis Firehose を活用して Amazon Aurora に格納する

  • DynamoDB Streams 、Kinesis Firehose のデータ変換関数を使用すると、DynamoDB から Aurora などのデータソースにデータをスケーラブルにレプリケートできます
  • 今回の記事では、DynamoDB から Aurora へのデータのレプリケートを紹介しています

以上が今週のアップデートになります。