サービス

ジャンル

職種：エンジニア

職種：ビジネス職

職種：デザイナー

職種：バックオフィス

職種：その他職種

技術

<h2 id="はじめに">はじめに</h2>

<p>はじめまして！ プラットフォーム事業本部の桑名(<a href="https://twitter.com/kuwana_kb_" target="_blank">@kuwana_kb_</a>) です。 私はDMM.comのユーザーレビュー基盤を開発するチームでエンジニアをしています。</p>

<p>さて、ユーザーレビュー基盤では現在リプレイスを進めています。 今回はユーザーレビュー基盤の変革シリーズ 第4弾として「マイクロサービス化に向けたインフラ構成」と題し、ユーザーレビュー基盤のインフラをご紹介したいと思います。</p>

<p>&nbsp;</p>

<h2 id="旧システムで抱えていた問題">旧システムで抱えていた問題</h2>

<p>旧システムが抱えていた問題、それは「継続的なリリースが難しい」ということです。</p>

<p style="text-align:center"><img alt="" height="499" src="https://image.dmm-corp.com/co56no474wlhg1gxp6ikcisu3wot" width="693" /></p>

<p>前提として、旧ユーザーレビュー基盤は様々な機能が相乗りしたモノリシックなモジュール上に実装されていました。<br />
一つのモジュールに複数の機能が存在すると、影響範囲を予測しづらくなります。 そのため、リリース時に意図しないエラーを引き起こすことがありました。 対策として入念にチェックを行わざるを得ないのですが、これがリリースまでのリードタイムに影響を及ぼします。<br />
また、一つのモジュールを複数の部署が使用していたため、リリースにあたっては各部署との調整が必要でした。 これもリードタイムに影響を及ぼします。<br />
つまり、リリースのたびに余分な時間とコストがかかるシステムだったと言えるでしょう。</p>

<p style="text-align:center"><img alt="" height="528" src="https://image.dmm-corp.com/su3yk6ju6a522jwwublfab9vktc2" width="708" /></p>

<p>この問題を解決するため、私たちはユーザーレビュー基盤を一つのプロダクトとして従来の基盤から切り出すことにしました。 いわゆるマイクロサービス化です。<br />
次に、マイクロサービス化を進めていくうえでインフラに何を採用したのかをご説明します。</p>

<p>※ユーザーレビュー基盤以外のプロダクトも並行してマイクロサービス化を進めています。</p>

<h2 id="新システムにはAWSを採用">新システムにはAWSを採用</h2>

<p>新たなインフラ基盤にはAWSを採用しました。 AWSを採用するメリットは主に3つあると考えました。</p>

<p>まず、可用性、耐障害性において優れている点です。 オートスケーリングやマネージド・サービスの利用によって手軽に可用性・耐障害性を高めることができるのはクラウドならではのメリットだと思います。</p>

<p>次に挙げられるのは、インフラを自分たちのチームで運用できる点です。 チーム内で作業が完結することにメリットがあると考えました。 オンプレの場合、サーバーの構成変更などは別部署への依頼が必要になり、リリースへのリードタイムに響くからです。</p>

<p>最後は、 DMM社内でAWSチームやインフラのサポートを手厚く受けることができる点です。 DMMでは全社的にAWSの採用率が高く、社内ナレッジに知見が貯まっています。 また、DMM社内にAWSのソリューションアーキテクトの方が来てくださっていて、設計や運用で詰まった時に気軽に相談ができることもポイントです。 開発者としてとてもありがたい環境だと感じます。</p>

<p>&nbsp;</p>

<h2 id="新システムの構成">新システムの構成</h2>

<p>続いて具体的な構成をご紹介します。</p>

<p style="text-align:center"><img alt="" height="1024" src="https://image.dmm-corp.com/d6yhs52ckl0inc2m4od6756qed8m" width="694" /></p>

<p>まず、リクエストは&nbsp;<code>CloudFront -&gt; ALB -&gt; ECS</code>&nbsp;でさばく形にしており、負荷に応じてインスタンスがスケールします。 DBについては旧システムのオンプレDBからマイグレーションする要件があったため<code>RDS(MySQL)</code>を採用しました。 これらのリソースをマルチAZの構成にすることで、可用性を高めています。<br />
また、ログ基盤には&nbsp;<code>fluentd -&gt; Kinesis Firehose -&gt; ElasticSearch</code>&nbsp;といった構成を採用しています。</p>

<p>&nbsp;</p>

<h2 id="運用を楽にするための工夫">運用を楽にするための工夫</h2>

<p>ここまでご説明した設計は、AWSの運用において比較的オーソドックスな構成かと思います。<br />
このなかでひと工夫している内容を2点ご紹介したいと思います。</p>

<h3 id="1Infrastructure-as-CodeIaC化">1.Infrastructure as Code(IaC)化</h3>

<p style="text-align:center"><img alt="" height="307" src="https://image.dmm-corp.com/h9foxw19d7ywtqfydj0ezh3sbocm" width="405" /></p>

<p>「Infrastructure as Code」とは文字どおりインフラをコード化する、という意味の用語です。 私たちは新システムを構築するうえで、ほとんどのAWSリソースをソースコードで管理するようにしました。<br />
具体的には、CloudFormationを用いてソースコード化し、GitHub Enterpriseのリポジトリで管理をしています。 イメージとしては、上記のディレクトリツリーのようにファイルごとに管理する形です。 IaCを実現することのメリットとしては、以下のようなものが挙げられます。</p>

<p>一点目は、リソースをソースコードとして可視化できるということです。 リソースをソースコードとして扱えると、リソースの変更履歴も追いやすくなります。 また、プロダクトを第三者に共有する時(ex.プロダクトの引き継ぎなど）もソースコードを読めば構成がわかるのでスムーズになります。</p>

<p>二点目は、リソースの構築にかかるスピードが劇的に早くなります。 テンプレートであるymlファイルをCloudFormationに適用すれば、一発で環境構築が可能です！ 負荷試験や検証で本番と同様の環境を作りたい時にとても便利です。</p>

<p>ただ、IaC化にあたって注意すべき点もあります。 それは機微情報の扱いです。<br />
具体的には、アクセスキー、シークレットキー、DBのパスワードといった外部に公開してはいけない情報の扱いに注意する必要があります。 こういった情報はCloudFormationのテンプレートに直書きせず、必要に応じてKMSを利用したり、SSMを通じてパラメータ化したりする必要があります。</p>

<p>&nbsp;</p>

<h3 id="2エラーログのSlack通知">2.エラーログのSlack通知</h3>

<p>システムに問題が発生した際、重要な要素となるのがログです。 問題のあるログを即座に検知するためにAWSとSlackの連携を強めています。</p>

<p style="text-align:center"><img alt="" height="309" src="https://image.dmm-corp.com/gf83eysd1wtki8u9th4k9czndjud" width="800" /></p>

<p>まずインスタンスに異常が発生した場合は、こちらについては CloudWatchMetricsでECS, RDSのCPU使用率などをメトリクス化し、CloudWatchAlarmでメトリクスの数値を監視しています。 もし異常を検知した場合は、CloudWatchAlarmがLambdaをキックし、Slackに通知が来るようにしています。</p>

<p style="text-align:center"><img alt="" height="372" src="https://image.dmm-corp.com/d10lf5bziee3xl2yhvtv8rkx0ayn" width="800" /></p>

<p>次にアプリケーションレイヤーに異常が発生した場合は、こちらはECS+fluentdで各種アプリケーションログを出力できるようにし、Kinesis経由でS3にログを保存しています。 緊急の対応が必要となるerror.logは、S3への保存をトリガーとしてSlackに通知が来るようにしています。</p>

<p>このようにレイヤー別にエラーを検知する仕組みを作っておくことで、問題への対応速度を向上させると同時に解決への手がかりを増やすことができるというメリットがあります。</p>

<h2 id="まとめ">まとめ</h2>

<p>今回はユーザーレビュー基盤のマイクロサービス化におけるインフラ構成と、運用を楽にするための工夫をご紹介させていただきました。 IaC化、Slack通知どちらも便利なのでぜひ試してみてください。 また、今後もユーザーレビュー基盤での取り組みをご紹介予定ですので、引き続きそちらもお楽しみに！</p>

<p>&nbsp;</p>

<h2 id="最後に">最後に</h2>

<p>私の所属するプラットフォーム事業本部 Customer Decision Support Teamでは、一緒に働いてくれる仲間を探しています。 それぞれの得意分野を活かしながら、みんなでフロントエンドからインフラまでフルスタックを目指しているチームです。 少しでもご興味のある方はぜひご応募ください！</p>

<div data-oembed-url="https://dmm-corp.com/recruit/">
<div>
<div style="left: 0; width: 100%; height: 0; position: relative; padding-bottom: 52.5%; padding-top: 120px;"><iframe allowfullscreen="" src="//if-cdn.com/lYoH0j6?app=1" style="top: 0; left: 0; width: 100%; height: 100%; position: absolute; border: 0;" tabindex="-1"></iframe></div>
</div>
<script async="" charset="utf-8" src="//if-cdn.com/embed.js"></script></div>

<p><a href="https://dmm-corp.com/recruit/" target="_blank">dmm-corp.com</a></p>

<p>&nbsp;</p>


DMMにおけるユーザーレビュー基盤の変革（マイクロサービス化に向けたインフラ構成編)

facebook

twitter

DMM TV

DMMブックス

DMM pictures

DMM GAMES

DMMオンクレ

DMMスクラッチ

DMMくじ

DMM Factory

ぷらさぷ ～＋SURPRISE～

DMMオンラインサロン

DMMいろいろレンタル

DMM DVD／CDレンタル

DMM通販

DMMオンラインクリニック

デジタルコミック事業

DMMチャットブースト

DMM英会話

DMM FX

DMMかりゆし水族館

ベルリング

ハッシャダイソーシャル

ヤンキーインターン

シント=トロイデンVV

DMM 地方創生

DMM.make 3Dプリント

DMM.make PRODUCTS

Seamoon Protcol by DMM Crypto

DMMバヌーシー

DMM EV ON

DMM WEBCAMP

DMMぱちタウン

DMM競輪

Waitinglist

Algoage

DMMポイントクラブ

社会課題

エンターテインメント

動画

電子書籍

アニメ

ゲーム

アプリゲーム

コミュニティ

オンラインサロン

PCゲーム

通販

レンタル

オンラインイベント

ビジネスソリューション

教育

英会話

水族館

ハードウェア・プロダクト

救急車両

消防車両

モノづくり施設

サッカー

スポーツ

地方創生

VR体験

Web3

生成AI

研究開発

アプリ

ブロックチェーン

プラットフォーム

横断開発

社会インフラ

アミューズメント

ダイバーシティ

同人

Webエンジニア

フロントエンドエンジニア

バックエンドエンジニア

サーバーサイドエンジニア

モバイルエンジニア

SRE・インフラエンジニア

情報システム

データ・AI・機械学習エンジニア

エンジニアリングマネージャー

テックリード

プロジェクトマネージャー・ディレクター

プロダクトマネージャー

事業開発・経営企画

営業

マーケティング・プロモーション

企画・プロデュース

ゲーム企画・プロデュース

コンテンツ制作・編集

カスタマーサポート・運営

データ分析・ストラテジー

UI・UXデザイナー

Webデザイナー

2Dデザイナー・イラストレーター

デザインマネージャー

デザインリード

DMMにおけるユーザーレビュー基盤の変革（マイクロサービス化に向けたインフラ構成編)

シェア