サービス

ジャンル

職種：エンジニア

職種：ビジネス職

職種：デザイナー

職種：バックオフィス

職種：その他職種

技術

<h2>はじめに</h2>

<p>前回記事でご紹介したように、私たちのグループでは「お客様に合わせたパーソナライズドな広告配信ができる基盤をつくる」ことをミッションに活動しています。</p>

<p><a href="https://inside.dmm.com/entry/2020/08/20/yondemasu08" target="_blank">よんでますよ、しゅーこさん #8</a></p>

<p>今回は、スピート感を重視して広告配信サーバーの開発をするうえで意識してきた「高負荷プロダクト開発の際、抑えておくべき点」をご紹介させていただきます。</p>

<h2>要件と開発期間</h2>

<p>簡単に言うと、今回は以下３点の要件がありました。</p>

<ul>
	<li>レスポンス速度を改善(目標20ms)</li>
	<li>正確な広告効果の測定</li>
	<li>様々な広告フォーマットでの配信</li>
</ul>

<p>これらを着手からリリースまで目標3ヶ月という限られた期間で満たしながら、開発を進めていきました。</p>

<h2>DMMの広告配信サーバー構成</h2>

<p>今回の広告配信サーバー構成図はこちらです。<br />
モダンな技術を使用しつつ、アプリケーション開発に集中できるように、AWSを使用したフルマネージドな構成でアーキテクチャを構築しました。</p>

<p><img alt="" height="421" src="https://image.dmm-corp.com/llyzknzu274758k1zpnjej3l8h3f" width="800" /></p>

<table border="1" cellpadding="1" cellspacing="1" style="width:300px;">
	<thead>
		<tr>
			<th scope="col" style="background-color: rgb(247, 247, 247);">領域</th>
			<th scope="col" style="background-color: rgb(247, 247, 247);">言語、サービス</th>
		</tr>
	</thead>
	<tbody>
		<tr>
			<td>バックエンド</td>
			<td>Go, Node.js<span style="display: none;">&nbsp;</span></td>
		</tr>
		<tr>
			<td>フロント(管理画面)</td>
			<td><a href="https://ja.nuxtjs.org/" target="_blank">NuxtJS</a><span style="display: none;">&nbsp;</span></td>
		</tr>
		<tr>
			<td>広告配信JS<span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span></td>
			<td>TypeScript</td>
		</tr>
		<tr>
			<td>インフラ<span style="display: none;">&nbsp;</span></td>
			<td>AWS ECS(Fargate), Step Functions, CloudFront, RDS Aurora, Elastic Cache, lambda, lambda@Edge等</td>
		</tr>
		<tr>
			<td><span style="display: none;">&nbsp;</span>ソース管理<span style="display: none;">&nbsp;</span></td>
			<td>GitHub Enterprise</td>
		</tr>
		<tr>
			<td>監視<span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span></td>
			<td><a href="https://www.datadoghq.com/ja/" target="_blank">Datadog</a></td>
		</tr>
		<tr>
			<td>CI/CD<span style="display: none;">&nbsp;</span></td>
			<td>CircleCI Enterprise</td>
		</tr>
		<tr>
			<td>その他<span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span></td>
			<td>Docker, Terraform</td>
		</tr>
	</tbody>
</table>

<p><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span>&nbsp;<span style="color: black; font-size: 28px; font-weight: 700;">高負荷プロダクト開発の際、抑えておくべき４つのポイント</span></p>

<p><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span>高負荷なプロダクトを開発していく際に意識すべきことは山ほどあります。<br />
そのなかから今回は、採用している技術の紹介をも兼ねて４点を紹介したいと思います。<span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span><span style="display: none;">&nbsp;</span></p>

<h3>負荷テスト</h3>

<p>時間がない状況でこそ重要度が増す工程が、負荷テストだと思っています。<br />
特定エンドポイントに対して一定の負荷をかけ、CPU使用率やレイテンシ等の数値を確認し、スケーリングの調整や実装方法の変更をしていく作業です。</p>

<p>負荷ツールはGo製のVegetaというツールを採用しました。<br />
テスト実施環境が楽に構築でき、操作もコマンドラインで簡単にできます。<br />
今回は複雑なシナリオを用意する必要はなかったですが、簡単に素早く負荷テストを実施できたことで、実装の問題点を早急に発見でき大変重宝しました。</p>

<h3>マスターデータ管理</h3>

<p>広告配信に必要なマスターデータはRDSで管理されていますが、リクエストの度にDBへのアクセスが発生すると今回の要件であるレイテンシに大きな影響が出てしまいます。</p>

<p>そこで、低レイテンシを実現するために、配信に必要なデータを多層キャッシュさせています。<br />
データは、以下の３層で管理しています。</p>

<table border="1" cellpadding="1" cellspacing="1">
	<thead>
		<tr>
			<th scope="col" style="background-color: rgb(247, 247, 247);">管理媒体</th>
			<th scope="col" style="background-color: rgb(247, 247, 247);">データ内容</th>
			<th scope="col" style="background-color: rgb(247, 247, 247);">データ更新方法</th>
		</tr>
	</thead>
	<tbody>
		<tr>
			<td>RDB(Amazon Aurora)</td>
			<td>メディアや広告の情報</td>
			<td>管理画面から操作</td>
		</tr>
		<tr>
			<td>KVS(ElastiCache for Redis)</td>
			<td>RDBで管理しているデータを、配信ロジックに合わせたスキーマに整形したデータ</td>
			<td>StepFunctionで定期的に実行されるバッチ(Go製)で更新</td>
		</tr>
		<tr>
			<td>アプリ内メモリ</td>
			<td>KVSのデータのキャッシュ</td>
			<td>配信サーバー内で定期的に別スレッドを立て、KVSを読みにいく</td>
		</tr>
	</tbody>
</table>

<p>現在はデータ量がそこまで多くないので、アプリ内メモリには全データのキャッシュを載せています(今後増えてくるのでカスタマイズ予定)。<br />
キャッシュ管理用パッケージ等は使わずに、独自でシンプルな実装にしました。</p>

<h3>監視</h3>

<p>データベースやアプリケーション等の障害は、迅速に検知して適切な対処が必要です。</p>

<p>そのため、監視にはDatadogを行っていて、アラートをSlackに飛ばしています。<br />
Fargateで動かしている各コンテナは、それぞれタスク内でDatadogコンテナをサイドカーで動かして監視。<br />
Elastic Load Balancer, Elastich Cache等でもDatadogの設定を入れて、それぞれの監視をしています。</p>

<h3>ログ、分析、実績管理</h3>

<p>広告配信サーバーで管理しているログは、大きく分けて３種類あります。</p>

<ul>
	<li>アプリケーションログ</li>
	<li>アクセスログ</li>
	<li>実績ログ(imp,cv等)</li>
</ul>

<p>各ログは広告配信サーバーのサイドカーで動いているFluentdで出力しています。</p>

<p>特に実績ログに関しては管理画面から見やすく表示する必要があるため、適切な処理を加えています。<br />
Kinesis, s3, Athena, Glueを利用して、RDSに整形したデータを溜める。<br />
そのデータを管理画面からLambdaで用意したAPIを通して取得する流れを作りました。</p>

<table border="1" cellpadding="1" cellspacing="1" style="width:500px;">
	<thead>
		<tr>
			<th scope="col" style="background-color: rgb(247, 247, 247);">サービス</th>
			<th scope="col" style="background-color: rgb(247, 247, 247);">用途</th>
		</tr>
	</thead>
	<tbody>
		<tr>
			<td>Kinesis firehose</td>
			<td>ログのバッファリング</td>
		</tr>
		<tr>
			<td>Athena</td>
			<td>s3からのログ取得</td>
		</tr>
		<tr>
			<td>Glue</td>
			<td>データ整形パイプライン</td>
		</tr>
		<tr>
			<td>RDS</td>
			<td>整形された実績データの管理</td>
		</tr>
	</tbody>
</table>

<h2>おわりに</h2>

<p>限られた期間の開発でも特に抑えるべき点を意識したことで、広告配信サーバーは無事にリリースされ、大きな問題なく運用ができています。</p>

<p>もちろん今回ご紹介させていただいた4点以外にも考慮すべきことはたくさんあります。<br />
今後もアドプラットフォームグループでは最適な手法を意識しながらスピード感のある開発に取り組んでいく予定です。</p>

<p>今回は簡単な技術紹介としての記事でしたが、次回以降はさらに踏み込んだ内容を書いていこうと思います。<br />
ぜひ次回以降の記事もお楽しみに！</p>

<p>アドプラチームでは一緒に働いてくれる仲間を募集しています。<br />
ご興味のある方はぜひ下記募集ページをご確認ください！</p>

<div data-oembed-url="https://dmm-corp.com/recruit">
<div>
<div style="left: 0; width: 100%; height: 0; position: relative; padding-bottom: 52.5%; padding-top: 120px;"><iframe allowfullscreen="" src="//if-cdn.com/Dag9d5B?app=1" style="top: 0; left: 0; width: 100%; height: 100%; position: absolute; border: 0;" tabindex="-1"></iframe></div>
</div>
<script async="" charset="utf-8" src="//if-cdn.com/embed.js"></script></div>

<p>&nbsp;</p>


はじめまして！ アドプラットフォームグループの宮田です。
今年DMMに中途で入社し、新規開発や保守・改善活動に取り組んでいます。

これまで位置情報を使った大規模スマホゲームやVRアプリケーション、ブロックチェーンを使ったゲーム等々を作ってきた社会人５年生です。

今年の目標はK-1のアマチュアの試合出場です。

3ヶ月で作る高負荷広告配信サーバーの4つの注意点

facebook

twitter

DMM TV

DMMブックス

DMM pictures

DMM GAMES

DMMオンクレ

DMMスクラッチ

DMMくじ

DMM Factory

ぷらさぷ ～＋SURPRISE～

DMMオンラインサロン

DMMいろいろレンタル

DMM DVD／CDレンタル

DMM通販

DMMオンラインクリニック

デジタルコミック事業

DMMチャットブースト

DMM英会話

DMM FX

DMMかりゆし水族館

ベルリング

ハッシャダイソーシャル

ヤンキーインターン

シント=トロイデンVV

DMM 地方創生

DMM.make 3Dプリント

DMM.make PRODUCTS

Seamoon Protcol by DMM Crypto

DMMバヌーシー

DMM EV ON

DMM WEBCAMP

DMMぱちタウン

DMM競輪

Waitinglist

Algoage

DMMポイントクラブ

社会課題

エンターテインメント

動画

電子書籍

アニメ

ゲーム

アプリゲーム

コミュニティ

オンラインサロン

PCゲーム

通販

レンタル

オンラインイベント

ビジネスソリューション

教育

英会話

水族館

ハードウェア・プロダクト

救急車両

消防車両

モノづくり施設

サッカー

スポーツ

地方創生

VR体験

Web3

生成AI

研究開発

アプリ

ブロックチェーン

プラットフォーム

横断開発

社会インフラ

アミューズメント

ダイバーシティ

同人

Webエンジニア

フロントエンドエンジニア

バックエンドエンジニア

サーバーサイドエンジニア

モバイルエンジニア

SRE・インフラエンジニア

情報システム

データ・AI・機械学習エンジニア

エンジニアリングマネージャー

テックリード

プロジェクトマネージャー・ディレクター

プロダクトマネージャー

事業開発・経営企画

営業

マーケティング・プロモーション

企画・プロデュース

ゲーム企画・プロデュース

コンテンツ制作・編集

カスタマーサポート・運営

データ分析・ストラテジー

UI・UXデザイナー

Webデザイナー

2Dデザイナー・イラストレーター

デザインマネージャー

デザインリード

3ヶ月で作る高負荷広告配信サーバーの4つの注意点

シェア