投稿者: sumito.tsukada

  • route 53

    route 53

    特徴

    • エイリアスレコードは、1つのDNS名を別のAmazon Route 53 DNS名にマッピングすることができる
    • Amazon Route 53 CNAMEレコードは、任意場所にホストされている任意のDNSレコードを指すことができる。

    他のVPCでプライベートホストゾーンを利用

    プライベートホストゾーンに関連付けさせる必要がある。

     

  • SQS

    SQS

    適切なソリューション(例)

    • 実行または分散および監査可能なビジネスの統制
    • 分散したセンサー群から、1時間に何千ものデータポイントを暗号化して収集

    など

  • EC2

    EC2

    インスタンスの停止中に可能な作業

    • セキュリティグループの変更
    • 詳細な監視の無効

    インスタンスファミリー

    インスタンスファミリー特徴
    M5汎用
    T2汎用
    C5コンピューティング最適化
    H1ストレージ最適化
    D2ストレージ最適化
    R4メモリ最適化
    X1メモリ最適化
    F1FPGA
    G3GPC

    負荷分散

    ELBのクロスゾーン負荷分散を利用する事で、ロードバランサに登録されている複数のAZのAmazon EC2インスタンス間で、受信トラフィックを均等に分散させる事が可能。

    EC2インスタンスでNATゲートウェイを作成

    作成したEC2インスタンスを作成し、インターネットに接続できない場合は、NATゲートウェイサブネットに、インターネットゲートウェイへのルートがない可能性があるので、確認する。

    EC2インスタンスのメタデータから利用できるカテゴリ

    • インスタンスID
    • Auto Scaling起動設定

    CPUキャパシティが十分に活用されてないインスタンスを抽出するツール

    • AWS trusted  advisor
    • Amazon CloudWatch

    EC2インスタンスのフル管理者権限を保持するサービス

    • Amazon Elastic Map Reduce
    • AWS Elastic Beanstalk

     

  • CloudWatch

    CloudWatch

    CloudWatch Logsエージェントがデフォルトでデータを送信する頻度

    5秒ごと

    CloudWatchの無料枠で受け取る事ができるメトリックアップデートの頻度

    5分

    受信および集計するデータの最小時間間隔

    1分

  • VPC

    VPC

    特徴

    • 各サブネットには、単一のAZにマッピング
    • デフォルトでは、プライベートかパブリックか関わらず、全てのサブネット間でルート可能

    VPC

    単一のVPCにパブリックサブネットが1つデフォルトで設定される

    VPCを設置しないでEC2インスタンスを立ち上げる場合、サブネットの設定が必須になる

    VPCエンドポイント

    グローバルIPを持つAWSサービスに対して、VPCの内部から直接接続するための出口。

    • 無料
    • AWSが管理

     

    Gateway型

    Gateway型はサブネットに特殊なルーティングを設定し、VPC内部から直接外のサービスと通信する

    VPC peeringは一部のリージョン間に限られている。

     

    プライベートリンク型

    サブネットにエンドポイント用のプライベートIPを設定して使用する

    エンドポイントポリシーによりアクセス制御を実施

    VPC Flow log

    accepted/rejectedされたトラフィックを保持する

    10分間で収集・プロセッシング・保存する

    サブネット枯渇時の対応

    VPC内の全てのIPアドレスを利用している場合は、VPCのCIDRブロックを変更して、新しいサブネットに十分な空きスペースを作成する事で枯渇時対処することも可能。

    専用テナンシーについて

    セキュリティを高める際に利用する

    具体的には、アプリケーションが動いているインスタンスは他のAWS顧客とハードウェアを共有してはいけない場合、以下の構成を検討する事ができる

    1. デフォルトてナンシーでVPCを作成
    2. 専用てナンシーでアプリケーションが動くインスタンスを起動。
    3. 共有テナンシーで、その他インスタンス(セキュリティ要件がないインスタンス)を起動する

    単一のWebサーバを公開するのに必要な作業

    • インターネットゲートウェイの設定を行う
    • ウェブサーバにElastic IPを設定し関連付ける
    • Webサーバのセキュリティグループを変更。Webトラフィックに使用されているポート上のWebトラフィックを許可する
    • サブネットのルーティングテーブルを設定

     

     

  • RDS

    RDS

    高負荷対策

    Amazon RDS MySQL DBインスタンスで現在、利用可能な最大のインスタンスタイプで実行されているとする。

    DBインスタンスはCPUおよびネットワーク帯域幅に近いキャパシティで動作。

    今後、トラフィックが増加することを予想される。より多くのトラフィックを捌くアプローチ

     

    • 別アベイラビリティゾーンにMasterデータベースの読み取りレプリカを作成。レプリカに読み取り専用呼び出しを送信するよう、アプリケーションを設定する。
    • Amazon ElasticCacheクラスタを作成。頻繁にアクセスされるデータやクエリをキャッシュから取得するようにアプリケーションを設定する

    障害時の挙動

    プライマリDBインスタンスに障害が発生した場合、RDSマルチアベイラビリティゾーンのデプロイは、

    標準名レコード(CNAME)がプライマリからスタンバイに変更される。

    ElasticCacheについて

    セッション情報をRDSではなく、ElasticCacheを利用する際の挙動

    • セッションデータの読み取り・書き込みパフォーマンスを向上
    • データベースインスタンスの負荷を軽減

    RDSへの接続できない場合確認すべきポイント

    • VPCセキュリティグループの不正なルール
    • ローカルファイヤウォールのAmazon RDSエンドポイントポートの制限を確認する
    • Amazon RDSインスタンスが実行状態であるか

    ページの読み取り時間の改善

    • セッション情報と頻繁なDBクエリのために、アプリケーションにAmazon ElasticCacheを追加
    • Amazon CloudFront dynamic content supportを設定。サイトの再利用可能なコンテンツのキャッシングを有効にする
    • Amazon RDSデータベースをhigh memory extra largeインスタンスタイプへ変更

     

    ストレージ容量の拡大させる

    追加ストレージを割り当てる事が可能。割り当て中にパフォーマンスが低下する期間を計画する。

     

  • dynamodbへバルクインポート

    dynamodbへバルクインポート

    はじめに

    dynamodbへまとめてデータを入れたい時がある。バルクインポートの手順を紹介

    jsonファイル

    {
        "tsukada-tw": [
          {
              "PutRequest": {
                "Item": {
                  "ID": {"N":"1"},
                  "Tip": {"S":"【保存版】プレゼンで使えるグラフや図を表現する英語フレーズ集 https://www.rarejob.com/englishlab/column/20190426/"
                  }
                }
              }
          },
          {
              "PutRequest": {
                "Item": {
                  "ID": {"N":"2"},
                  "Tip": {"S":"海外でも母の日は祝うもの? Mother’s Dayの時期や英語のお祝いメッセージを紹介! https://www.rarejob.com/englishlab/column/20190425/"
                  }
                }
              }
          },
          {
              "PutRequest": {
                "Item": {
                  "ID": {"N":"3"},
                  "Tip": {"S":"英文メールの結びにはなんて書けばいい?ビジネスからカジュアルまで「よろしく」や「敬具」に代わる結びの英語表現まとめ https://www.rarejob.com/englishlab/column/20190424/"
                  }
                }
              }
          }
        ]
    }

    読み込み

    aws dynamodb batch-write-item --request-items file://bulk.json

    結果

     

  • 「徹底攻略AWS認定ソリューションアーキテクトアソシエイト教科書」を読んだ

    「徹底攻略AWS認定ソリューションアーキテクトアソシエイト教科書」を読んだ

    はじめに

    資格こそ取っていないが、AWSは常に触っている。試験を受ける受けないは別にして、知識をあるレベルまで引き上げる上で、試験用の本から多くのことを学ぶことができる。

    今回は「徹底攻略AWS認定ソリューションアーキテクトアソシエイト教科書」を通じて得られた知識についてまとめた。

    各種機能について、注意したい特徴

    Amazon Glacier

    mode解説
    迅速オンデマンドと呼ばれる。
    成功する保証がない
    標準3~5時間でアーカイブから取り出しが可能

    EFS

    共有ストレージ。ユーザー側でスナップショット取得不可

    インスタンスストア

    エフェメラルディスクとも呼ばれる。EC2停止時にはデータは消失。再起動では消失しない

    Aurora

    データは3箇所のAZに格納される

    1つのAZにつき2箇所のディスクに書き込まれる => 合計6箇所に保存される

    S3

    結果整合性モデルが一部採用されている

    メソッド種別特徴
    PUT新規追加書き込み後の、読み込み整合性
    PUT更新結果整合性
    DELETE削除結果整合性

    SQS

    TOPIC

    メッセージの送信、受信のアクセスポイント

    TOPICを作成し、購読者が購読することで通知の送受信が可能になる

    購読者(サブスクライバ)

    TOPICから発信されるメッセージの購読者を設定

    • HTTP/HTTPS
    • Email
    • SQL
    • Lambda

    の利用が可能

    PUBLISH

    作成したTOPICに対してアプリケーションからメッセージを送信。

    送信されたメッセージはSQSから購読者(サブスクライバ)へ配信される

    Cloud Formation

    定義ファイルをテンプレートと呼ぶ

    テンプレートから呼び出されるサービスの集合を、スタックと呼ばれる

    高可用アーキテクチャ

    可用性の定義

    システムが正常に継続して動作し続ける能力

    指標はパーセンテージ。一般的に稼働率と呼ばれる。

    オートスケーリング

    スケールアウト

    スケーリングプラン設定値が閾値超え

    EC2インスタンスを増加(Auto Scalingグループの設定値に従う)

     

    スケールイン

    EC2インスタンス数が最も多いAZからランダムに選ばれる

    もしインスタンス数が同じ場合は、最も古いEC2インスタンスがあるAZが選ばれる

    それも同じ場合は、次に課金が発生する時間が最も短いEC2インスタンスが選ばれる

    それも同じ場合は、この中からランダムに選ばれる

    クールダウン

    Auto Scalingが連続で実施されないようにする待ち時間

    データベース内のレコードが破損した場合の対処

    アプリケーションのバグや、オペレーションミスの場合、RDSの自動再起動を行う。

    フェールオーバでの復旧が不可能な場合、バックアップからのリストアをする必要がある。

     

    リストアについて

    1. 障害が発生したRDSのエンドポイントを控える
    2. 別のエンドポイント名に変更する
    3. バックアップから変更前のエンドポイント名でリストアする
    4. 旧RDSを削除する

    EBSのバックアップとリストア

    標準のスナップショット機能を用いる

    EC2のバックアップとリストア

    EBS もしくは AMIで取得したバックアップを用いて、リストアを行う

    AWSにおけるパフォーマンス

    プレイスメントグループについて

    単一のAZ内のEC2インスタンスを論理的にグルーピング

    複数のコンピューティングリソースを1つとして機能させる。

    クラスターコンピューティングに最適

    EBS最適化インスタンス

    最適化なしの場合

    EC2 ⇔ EBS間

    EC2 ⇔ その他が同一のネットワークになる

    最適化ありの場合

    EC2 ⇔ EBS間が専用のネットワークになる

    DynamoDB Accelerator (DAX)

    DynamoDBのインメモリキャッシュ。

    のように使う

    セキュリティ

    WebIDフェデレーション

    Google/FacebookなどのOpenID Connectをサポート

    CloudHSM、KMS

    どちらもユーザがAWSで鍵を管理・保管するサービス

    データの暗号化

    クライアントサイド(CSE)

    • S3に保存時
    • EBS ファイルシステムの暗号化

    サーバサイド暗号化(SSE)

    • S3に保管時、自動で暗号化

    Deploy/Provisioning

    AWSのサービスでは、Deployができるサービス、Provisioningができるサービス、その両方が可能なサービスが存在する。まとめると以下の通り。

    ServiceDeployProvisioning
    OpsWork
    Elastic Beanstalk
    Code Deploy×
    Cloud Formation×

    請求

    Consolidated Billing(一括請求)で統合可能

    メンバーのアカウント(Linked Account)の請求を、

    マスターのアカウント(Payer Account)に統合できる

     

  • Insufficient space in download directory /var/cache/yum/x86_64/latest/amzn-main

    Insufficient space in download directory /var/cache/yum/x86_64/latest/amzn-main

    はじめに

    docker をbuild中にErrorがでてbuildできなくなった。

     One of the configured repositories failed (Unknown),
     and yum doesn't have enough cached data to continue. At this point the only
     safe thing yum can do is fail. There are a few ways to work "fix" this:
    
         1. Contact the upstream for the repository and get them to fix the problem.
    
         2. Reconfigure the baseurl/etc. for the repository, to point to a working
            upstream. This is most often useful if you are using a newer
            distribution release than is supported by the repository (and the
            packages for the previous distribution release still work).
    
         3. Disable the repository, so yum won't use it by default. Yum will then
            just ignore the repository until you permanently enable it again or use
            --enablerepo for temporary usage:
    
                yum-config-manager --disable <repoid>
    
         4. Configure the failing repository to be skipped, if it is unavailable.
            Note that yum will try to contact the repo. when it runs most commands,
            so will have to try and fail each time (and thus. yum will be be much
            slower). If it is a very temporary problem though, this is often a nice
            compromise:
    
                yum-config-manager --save --setopt=<repoid>.skip_if_unavailable=true
    
    Insufficient space in download directory /var/cache/yum/x86_64/latest/amzn-main
        * free   0 
        * needed 100 k

    原因

    dockerのdiskがfullになっている

    対処

    使っていないdocker container、docker imageを削除する

    % docker rm `docker ps -aq`  
    38068772176a
    3888aa5447b1
    66fe52df5528
    82584720485f
    5bd5855641fd
    379ca80b607c
    e06a7e7e1e60
    5685e43f3a4a
    e3b182bbb54d
    
    % docker images | awk '{print $3}' | xargs docker rmi    
    
    Deleted: sha256:aea654465ef677aeb2b9e25eb8b9fc4a8b1aa23908c229249898cf2e2b9d4ed9
    Deleted: sha256:cf346c3b10cd250b10af438fbf1554781a38c243dd873b66dc2b07f82a8375ca
    Deleted: sha256:16ecc35ae52fd0fbc6428510ac554549227baf58e053937d5b7f6732595d057f
    Deleted: sha256:9e6d8d236b08a8f4eabdbd661d8caa80e87db8f663894334f3b19a79bdc15a0a
    Deleted: sha256:c834d9fa415cddfd8c6d3ebd726816007529348e7abd6be47cbc021955b3ea5c
    Deleted: sha256:7d2ad60980725a5cb256bafc8b0df8a0b4c41b6e754063164c793888c2239ff0
    Deleted: sha256:518874706ae596a3f69c7f6e93c9095b7284e5c20c6c1c80c8ab8b924a1049e9
    Deleted: sha256:cd217551e011d423ad768be44bab435e8bb6f7ff71276c1288ff2477541bf353
    

     

  • SQLiteで小数点が入る割り算を行う

    SQLiteで小数点が入る割り算を行う

    はじめに

    redashでQuery Resultを利用するとSQLiteを利用することができる。

    ただし、SQLite内で割合を計算をするような処理をすると、0になってしまうので、一工夫必要になる

    SELECT success  / try  * 100 AS ratio,
           success ,
           try

    解決策

    castと、roundを利用し、小数点以下の計算に対応させる。

    SELECT round(cast(success as REAL) / cast(try as REAL),5) * 100 AS ratio,
           success as success ,
           try as try