サイロ化されたElasticsearchクラスターを一元化し、Machine Learningでユーザーエクスペリエンス向上とビジネスKPIの追跡を実施するGoDaddy社の事例をご紹介します。

本記事は<a href="/jp/elasticon/conf/2018/sf">Elastic{ON} 2018</a>での事例紹介セッションの要約です。Elastic{ON} 2018のトークはアーカイブで多数公開中です。また、お近くの都市で開催される<a href="/jp/elasticon">Elastic{ON} Tour</a>のスケジュールもご覧ください。
スーパーボウルのスポンサーとしても近年広く認知されている米企業のGoDaddyは、Webホスティングとドメイン管理のサービスを提供しています。同社は1,700万に上る顧客に7,500万のドメインと1,000万のサイトをホスティングしており、ビッグデータのスペシャリストでもあります。サイト運営を円滑に保つには、バーチャルサーバーのパッチレベルからネットワーク障害、悪意のある攻撃まで、インフラのあらゆる側面に目を光らせておく必要があります。毎秒20万ものメッセージ（DNSクエリ、システムログ、ビジネスイベント等）を受信する状況下でこれを実行するのは簡単ではありません。そこで同社は、スピードとスケール性に優れたElastic Stackを採用しています。
GoDaddyがElastic Stackを導入する過程は、オープンソースソフトウェアを使用する大多数の企業と同じでした。はじめに社内のさまざまなチームが各自のニーズに応じて独自のクラスターを設定し、現場単位の業務はうまく進んでいました。しかしデプロイ全体の管理は行われておらず、全社的に見れば数百ものクラスターがバラバラに設定され、異なるバージョンのElasticsearchがサイロ化されたデータを各所で分析しているだけでした。より優れた方法があると判明したのが2014年のことです。同社にElasticsearchのデプロイを管理する専任のチームが結成されました。現在このチームは700以上のDockerコンテナーと、社内の全チームからのフィードに対応する60以上のElasticsearchクラスターを管理しており、270 TBを超える容量のデータを自社のHDFS環境に置いています。
このElasticsearch専任チームが発足して間もなく取り組んだ課題に、社内のエコシステム全体に適合するパッチ管理の問題がありました。2014年にはまだ<a href="/jp/products/beats">Beats</a>が開発されていなかったことから、GoDaddyではシステムデータをElasticsearchに送るためにWindowsとLinuxのエージェント（<a href="/jp/products/beats/auditbeat">Auditbeat</a>と<a href="/jp/products/beats/winlogbeat">Winlogbeat</a>に類似したもの）を開発しました。これらのエージェントをオンプレミスの物理サーバーと仮想サーバーを含む全サーバーにインストールしたことで、パッチレベルの貴重なインサイトを獲得しつつインフラ全体に適合させることが可能になりました。またKibanaを使用したさまざまな種類のダッシュボードと可視化の活用も進みました。管理者やエンジニアには高精度なパッチ情報を簡単に提供し、経営陣には高度な事業報告書を提示することができます。いずれも一元化された同じデータにアクセスして生成されるため、全員で同一のデータを共有することが可能です。
読み込みの遅いWebサイトからはビジターが去ってしまうため、サイトトラフィックをスムーズに保つことはユーザーの維持に役立ちます。そしてサイトトラフィックを高速に保つ上で重要となるのが、サーバーパッチレベルの保守管理です。膨大な顧客へのサービス経験に基づき、GoDaddyの社内ではデータセンターのパフォーマンスと、そのパフォーマンスがサイトビジターに与える影響を追跡する必要性が認識されていました。システムの全コンポーネントが生成するログなど必要なデータはすでに揃っていましたが、求められていたのは、これらのデータを包括的に表示する技術でした。
<h2>一元化されたログでMachine Learningを使い、異常を検知</h2>パフォーマンスやエンゲージメントに関する多様なデータセットの一元化と分析に乗り出したGoDaddyで採用されたプロダクトが、Elastic Stackです。Netflowデータ、sFlow data、リアルユーザーマネジメント（RUM）、ピアリングリレーションシップ、さらにルーティングデータをElasticsearchに入れると、ユーザーエクスペリエンスとシステムパフォーマンスの詳細な状況が判明しました。異なるソースからのデータを同時に分析することではじめて明らかとなる内容を、詳細なレベルで表示できるようになったのです。さらにGoDaddyではこれらのデータの分析に、有償オプションの<a href="/jp/products/stack/machine-learning">Elastic Machine Learning</a>を活用する取り組みを開始しました。
<img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/bltb09951bb4979ea15/5c304e986e9992e16f52993d/go_daddy_RUM.jpg" data-sys-asset-uid="bltb09951bb4979ea15" style="display: block; margin: auto;">
システムデータの山に、一元的にアクセスできるというのは嬉しいことです。しかし、そこで問題を追跡することは簡単ではありません。GoDaddyはすべてのユーザークリックとWebサイトインタラクションを追跡しています。しかし、世界中で運用する数百万ページ分のデータを、人力で厳密に調査することは不可能です。そこで注目されたのが、異常検知タスクをシンプルにするElasticのMachine Learningです。ElasticのMachine Learningエキスパートの協力を得て、GoDaddyはRUMにフォーカスし、異常を検知を簡単にするMachine Learningジョブを実装しました。
<blockquote>「労力を考えれば、Elasticチームの支援を受けるのが正解です。これ以上ないというほど親身になってくれます。 緊密な関係を築くことができ、会議もひんぱんにしました。コミュニケーションの窓口はいつでもオープンで、アップデートや問題が生じたときにすぐ頼ることができました。 その点が、Elasticチームの特長だと思います」 - GoDaddyプリンシパルアーキテクト、フェリックス・ゴロディシュター
</blockquote>GoDaddyのチームはページ読み込み時間とページトラフィックに関する各種パラメーターに閾値を設定し、ElasticのMachine Learningに何が"通常"で、何が"以上"かを学習するジョブを実行させました。これにより、問題が生じたときすぐに通知を受け取ることができます。Machine learningでノイズを除去できるようになったことで、チームは重要なタスクに一層集中できるようになりました。
同社でホスティングサイトのパフォーマンス監視にElasticのMachine Learningを活用する方法についてさらに詳しくは、<a href="/jp/elasticon/conf/2018/sf">Elastic{ON} 2018</a>の動画<a href="/jp/elasticon/conf/2018/sf/stories-from-the-trenches-at-godaddy-how-big-data-insights-equal-big-money">Stories from the Trenches at GoDaddy:How Big Data Insights Equal Big Money</a>（GoDaddy社活用事例：ビッグデータインサイトを収益に変える方法）をご視聴ください。動画では、同社がMachine Learningを製品採用関連のビジネスKPIの監視に活用している方法や、Elastic Stack導入のインサイトも紹介されています。
<a href="/jp/elasticon/conf/2018/sf/stories-from-the-trenches-at-godaddy-how-big-data-insights-equal-big-money"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt1004b59c5e7fde10/5c304e93ad674d236e76489e/go_daddy_cohort_ml.jpg" data-sys-asset-uid="blt1004b59c5e7fde10" alt="" style="display: block; margin: auto;"></a>

go_daddy_banner.jpg

go_daddy_thumb.jpg

Improving the GoDaddy User Experience with Elastic Machine Learning

ユーザーエクスペリエンスの向上を実現させたGoDaddyのMachine Learning活用術

Elastic Stackの導入で取引履歴の保存を16ヶ月から8年に長期化することに成功し、検索速度を劇的に向上させたラボバンクの事例をご紹介します。

<html><head></head><body>&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x306F;&#x4E16;&#x754C;50&#x304B;&#x56FD;&#x3001;900&#x652F;&#x5E97;&#x3092;&#x5C55;&#x958B;&#x3059;&#x308B;&#x5927;&#x624B;&#x91D1;&#x878D;&#x6A5F;&#x95A2;&#x3067;&#x3059;&#x3002;&#x5927;&#x624B;&#x9280;&#x884C;&#x306E;&#x591A;&#x304F;&#x306F;&#x81EA;&#x793E;&#x30B7;&#x30B9;&#x30C6;&#x30E0;&#x3092;&#x4F7F;&#x3044;&#x307E;&#x3059;&#x304C;&#x3001;&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x3082;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x306B;&#x91D1;&#x878D;&#x6C7A;&#x6E08;&#x30B7;&#x30B9;&#x30C6;&#x30E0;&#x3092;&#x69CB;&#x7BC9;&#x3057;&#x3066;&#x3044;&#x307E;&#x3059;&#x3002;&#x30B7;&#x30B9;&#x30C6;&#x30E0;&#x306F;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x683C;&#x7D0D;&#x3059;&#x308B;&#x3060;&#x3051;&#x306E;&#x5B58;&#x5728;&#x3067;&#x306F;&#x3042;&#x308A;&#x307E;&#x305B;&#x3093;&#x3002;&#x9867;&#x5BA2;&#x5411;&#x3051;&#x306B;&#x3001;&#x904E;&#x53BB;&#x6570;&#x5E74;&#x5206;&#x306E;&#x6C7A;&#x6E08;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x30EA;&#x30A2;&#x30EB;&#x30BF;&#x30A4;&#x30E0;&#x306B;&#x691C;&#x7D22;&#x3001;&#x95B2;&#x89A7;&#x3067;&#x304D;&#x308B;&#x51E6;&#x7406;&#x80FD;&#x529B;&#x3068;&#x3001;<a href="/jp/blog/psd2-architectures-with-the-elastic-stack">PSD2&#x57FA;&#x6E96;&#x3078;&#x306E;&#x6E96;&#x62E0;</a>&#x304C;&#x6C42;&#x3081;&#x3089;&#x308C;&#x307E;&#x3059;&#x3002;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x306F;&#x6C7A;&#x6E08;&#x53D6;&#x5F15;&#x306E;&#x904B;&#x7528;&#x306B;&#x512A;&#x308C;&#x305F;&#x6027;&#x80FD;&#x3092;&#x767A;&#x63EE;&#x3059;&#x308B;&#x4E00;&#x65B9;&#x3001;&#x8907;&#x96D1;&#x306A;&#x691C;&#x7D22;&#x51E6;&#x7406;&#x306F;&#x5F97;&#x610F;&#x3067;&#x306F;&#x3042;&#x308A;&#x307E;&#x305B;&#x3093;&#x3002;1&#x5343;&#x4E07;&#x3082;&#x306E;&#x9867;&#x5BA2;&#x3092;&#x62B1;&#x3048;&#x3001;&#x305D;&#x306E;&#x6570;&#x500D;&#x306E;&#x53E3;&#x5EA7;&#x3092;&#x904B;&#x55B6;&#x3059;&#x308B;&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x3002;&#x305D;&#x308C;&#x307B;&#x3069;&#x306E;&#x4E8B;&#x696D;&#x898F;&#x6A21;&#x3067;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x306E;&#x554F;&#x984C;&#x3092;&#x89E3;&#x6C7A;&#x3059;&#x308B;&#x3068;&#x306A;&#x308C;&#x3070;&#x3001;&#x4E00;&#x822C;&#x7684;&#x306B;&#x306F;&#x591A;&#x984D;&#x306E;&#x30B3;&#x30B9;&#x30C8;&#x304C;&#x304B;&#x304B;&#x308A;&#x307E;&#x3059;&#x3002;
2016&#x5E74;&#x672B;&#x3001;&#x30EB;&#x30CD;&#x30FB;&#x30D0;&#x30A6;&#x6C0F;&#x304C;&#x7387;&#x3044;&#x308B;4&#x4EBA;&#x3067;&#x69CB;&#x6210;&#x3055;&#x308C;&#x305F;&quot;&#x30C1;&#x30FC;&#x30E0;&#x30FB;&#x30D5;&#x30A9;&#x30FC;&#x30C8;&#x30EC;&#x30B9;&quot;&#x304C;&#x767A;&#x8DB3;&#x3057;&#x3001;&#x691C;&#x7D22;&#x30BD;&#x30EA;&#x30E5;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x958B;&#x767A;&#x306B;&#x4E57;&#x308A;&#x51FA;&#x3057;&#x307E;&#x3057;&#x305F;&#x3002;&#x30C1;&#x30FC;&#x30E0;&#x306E;&#x76EE;&#x7684;&#x306F;&#x3001;&#x6C7A;&#x6E08;&#x30FB;&#x9810;&#x91D1;&#x53D6;&#x5F15;&#x306B;&#x95A2;&#x3059;&#x308B;&#x30AB;&#x30B9;&#x30BF;&#x30DE;&#x30FC;&#x30A8;&#x30AF;&#x30B9;&#x30DA;&#x30EA;&#x30A8;&#x30F3;&#x30B9;&#x306E;&#x6539;&#x5584;&#x3067;&#x3059;&#x3002;&#x30C1;&#x30FC;&#x30E0;&#x306F;&#x9867;&#x5BA2;&#x304C;&#x95B2;&#x89A7;&#x30FB;&#x4FDD;&#x5B58;&#x3067;&#x304D;&#x308B;&#x53D6;&#x5F15;&#x5C65;&#x6B74;&#x6570;&#x3092;&#x5287;&#x7684;&#x306B;&#x5897;&#x3084;&#x3059;&#x3053;&#x3068;&#x306B;&#x6210;&#x529F;&#x3057;&#x307E;&#x3057;&#x305F;&#x3002;&#x30D7;&#x30ED;&#x30B8;&#x30A7;&#x30AF;&#x30C8;&#x306E;&#x958B;&#x59CB;&#x524D;&#x3001;&#x9867;&#x5BA2;&#x306F;&#x540C;&#x6642;&#x306B;&#x8907;&#x6570;&#x53E3;&#x5EA7;&#x306E;&#x53D6;&#x5F15;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x8868;&#x793A;&#x3059;&#x308B;&#x3053;&#x3068;&#x306F;&#x3067;&#x304D;&#x305A;&#x3001;&#x8868;&#x793A;&#x3067;&#x304D;&#x308B;&#x30C7;&#x30FC;&#x30BF;&#x3082;16&#x304B;&#x6708;&#x4EE5;&#x5185;&#x306B;&#x9650;&#x3089;&#x308C;&#x3066;&#x3044;&#x307E;&#x3057;&#x305F;&#x3002;16&#x304B;&#x6708;&#x4EE5;&#x524D;&#x306E;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x78BA;&#x8A8D;&#x3059;&#x308B;&#x306B;&#x306F;&#x652F;&#x5E97;&#x7A93;&#x53E3;&#x3067;&#x7533;&#x8ACB;&#x3059;&#x308B;&#x5FC5;&#x8981;&#x304C;&#x3042;&#x308A;&#x3001;&#x624B;&#x6570;&#x6599;&#x3082;&#x304B;&#x304B;&#x3063;&#x3066;&#x3044;&#x307E;&#x3057;&#x305F;&#x3002;&#x305D;&#x3053;&#x3067;&#x3001;&#x30C1;&#x30FC;&#x30E0;&#x30FB;&#x30D5;&#x30A9;&#x30FC;&#x30C8;&#x30EC;&#x30B9;&#x306F;2&#x3064;&#x306E;&#x76EE;&#x6A19;&#x3092;&#x63B2;&#x3052;&#x307E;&#x3057;&#x305F;&#x3002;&#x3059;&#x3079;&#x3066;&#x306E;&#x5229;&#x7528;&#x53E3;&#x5EA7;&#x3092;&#x7E26;&#x65AD;&#x3057;&#x3066;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x691C;&#x7D22;&#x3067;&#x304D;&#x308B;&#x3088;&#x3046;&#x306B;&#x3059;&#x308B;&#x3053;&#x3068;&#x3001;&#x305D;&#x3057;&#x3066;8&#x5E74;&#x5206;&#x306E;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x8868;&#x793A;&#x3055;&#x305B;&#x308B;&#x3053;&#x3068;&#x3001;&#x3067;&#x3059;&#x3002;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x3067;&#x5B9F;&#x73FE;&#x3059;&#x308B;&#x3068;&#x306A;&#x308C;&#x3070;&#x5927;&#x5909;&#x306A;&#x96E3;&#x984C;&#x3067;&#x3059;&#x304C;&#x3001;Elasticsearch&#x3092;&#x4F7F;&#x3048;&#x3070;&#x305D;&#x3046;&#x3067;&#x306F;&#x3042;&#x308A;&#x307E;&#x305B;&#x3093;&#x3002;
&#x30AA;&#x30FC;&#x30D7;&#x30F3;&#x30BD;&#x30FC;&#x30B9;&#x306E;Elastic Stack&#x3092;&#x4F7F;&#x3063;&#x3066;&#x6982;&#x5FF5;&#x5B9F;&#x8A3C;&#x3092;&#x884C;&#x3063;&#x305F;&#x5F8C;&#x3001;&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x306F;&#x6709;&#x511F;&#x30AA;&#x30D7;&#x30B7;&#x30E7;&#x30F3;&#x6A5F;&#x80FD;&#x306E;&#x5229;&#x7528;&#x3092;&#x6C7A;&#x65AD;&#x3057;&#x307E;&#x3057;&#x305F;&#x3002;&#x5C0E;&#x5165;&#x306E;&#x52D5;&#x6A5F;&#x3068;&#x306A;&#x3063;&#x305F;&#x5F37;&#x529B;&#x306A;&#x691C;&#x7D22;&#x6A5F;&#x80FD;&#x306F;&#x30AA;&#x30FC;&#x30D7;&#x30F3;&#x30BD;&#x30FC;&#x30B9;&#x3067;&#x63D0;&#x4F9B;&#x3055;&#x308C;&#x3066;&#x3044;&#x307E;&#x3059;&#x304C;&#x3001;&#x91D1;&#x878D;&#x696D;&#x754C;&#x306E;&#x57FA;&#x6E96;&#x306B;&#x6E96;&#x62E0;&#x3059;&#x308B;&#x306B;&#x306F;TLS&#x306B;&#x3088;&#x308B;&#x6697;&#x53F7;&#x5316;&#x8A8D;&#x8A3C;&#x3084;&#x3001;&#x76E3;&#x67FB;&#x30C7;&#x30FC;&#x30BF;&#x306E;&#x30ED;&#x30AE;&#x30F3;&#x30B0;&#x306A;&#x3069;&#x3001;&#x6709;&#x511F;&#x30B5;&#x30D6;&#x30B9;&#x30AF;&#x30EA;&#x30D7;&#x30B7;&#x30E7;&#x30F3;&#x3068;&#x306A;&#x308B;&#x30BB;&#x30AD;&#x30E5;&#x30EA;&#x30C6;&#x30A3;&#x6A5F;&#x80FD;&#x304C;&#x4E0D;&#x53EF;&#x6B20;&#x3067;&#x3042;&#x308B;&#x305F;&#x3081;&#x3067;&#x3059;&#x3002;
&#x30C1;&#x30FC;&#x30E0;&#x30FB;&#x30D5;&#x30A9;&#x30FC;&#x30C8;&#x30EC;&#x30B9;&#x306F;&#x3001;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x304B;&#x3089;&#x53D6;&#x5F15;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x53D6;&#x5F97;&#x3057;&#x3066;&#x30C7;&#x30FC;&#x30BF;&#x30B9;&#x30C8;&#x30A2;&#x3068;Elasticsearch&#x306B;&#x6295;&#x5165;&#x3059;&#x308B;&#x30A2;&#x30FC;&#x30AD;&#x30C6;&#x30AF;&#x30C1;&#x30E3;&#x30FC;&#x3092;&#x958B;&#x767A;&#x3057;&#x3001;&#x4FDD;&#x5B58;&#x671F;&#x9593;&#x3092;8&#x5E74;&#x306B;&#x8A2D;&#x5B9A;&#x3057;&#x307E;&#x3057;&#x305F;&#x3002;&#x3053;&#x306E;&#x30A2;&#x30FC;&#x30AD;&#x30C6;&#x30AF;&#x30C1;&#x30E3;&#x30FC;&#x306F;&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x306E;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x306E;&#x53D6;&#x5F15;&#x51E6;&#x7406;&#x901F;&#x5EA6;&#x3092;&#x307E;&#x3063;&#x305F;&#x304F;&#x640D;&#x306A;&#x3046;&#x3053;&#x3068;&#x306A;&#x304F;&#x3001;&#x9867;&#x5BA2;&#x5411;&#x3051;&#x306E;&#x691C;&#x7D22;&#x901F;&#x5EA6;&#x3092;&#x5927;&#x5E45;&#x306B;&#x5411;&#x4E0A;&#x3055;&#x305B;&#x307E;&#x3059;&#x3002;&#x51E6;&#x7406;&#x901F;&#x5EA6;&#x306F;&#x5287;&#x7684;&#x306B;&#x5411;&#x4E0A;&#x3057;&#x3001;&#x8AB0;&#x3082;&#x304C;&#x6C17;&#x304C;&#x4ED8;&#x304F;&#x307B;&#x3069;&#x3067;&#x3057;&#x305F;&#x3002;
<blockquote>&#x300C;&#x901F;&#x3055;&#x304C;&#x307E;&#x308B;&#x3067;&#x9055;&#x3044;&#x307E;&#x3059;&#x3002;&#x8AB0;&#x3082;&#x304C;&#x559C;&#x3093;&#x3067;&#x304F;&#x308C;&#x307E;&#x3057;&#x305F;&#x3002;&#x793E;&#x5185;&#x30A8;&#x30F3;&#x30B8;&#x30CB;&#x30A2;&#x306F;&#x300E;&#x3053;&#x3093;&#x306A;&#x306B;&#x65E9;&#x304F;&#x3066;&#x6B63;&#x78BA;&#x306A;&#x306F;&#x305A;&#x306A;&#x3044;&#x300F;&#x3068;&#x8A00;&#x3063;&#x3066;&#x4FE1;&#x3058;&#x305A;&#x3001;&#x691C;&#x8A3C;&#x3057;&#x305F;&#x307B;&#x3069;&#x3067;&#x3059;&#x3002;&#x3082;&#x3061;&#x308D;&#x3093;&#x7D50;&#x679C;&#x306F;&#x6B63;&#x3057;&#x3044;&#x3082;&#x306E;&#x3067;&#x3057;&#x305F;&#x300D;&#x2014;&#x30E9;&#x30DC;&#x30D0;&#x30F3;&#x30AF;&#x3001;&#x30C1;&#x30FC;&#x30E0;&#x30FB;&#x30D5;&#x30A9;&#x30FC;&#x30C8;&#x30EC;&#x30B9;&#x88FD;&#x54C1;&#x4E3B;&#x7BA1;&#x517C;&#x30BD;&#x30EA;&#x30E5;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x30A2;&#x30FC;&#x30AD;&#x30C6;&#x30AF;&#x30C8;&#x3001;&#x30EB;&#x30CD;&#x30FB;&#x30D0;&#x30A6;
</blockquote>&#x901F;&#x5EA6;&#x3060;&#x3051;&#x3067;&#x306A;&#x304F;&#x3001;&#x691C;&#x7D22;&#x5BFE;&#x8C61;&#x3068;&#x306A;&#x308B;&#x30C7;&#x30FC;&#x30BF;&#x3082;&#x5927;&#x304D;&#x304F;&#x5897;&#x3048;&#x307E;&#x3057;&#x305F;&#x3002;&#x30C7;&#x30FC;&#x30BF;&#x30B5;&#x30A4;&#x30BA;&#x3067;80 TB&#x3001;230&#x5104;&#x56DE;&#x4EE5;&#x4E0A;&#x306E;&#x53D6;&#x5F15;&#x30C7;&#x30FC;&#x30BF;&#x306B;&#x5BFE;&#x3057;&#x3001;&#x6BCE;&#x79D2;200&#x4EE5;&#x4E0A;&#x3001;1&#x65E5;100&#x5104;&#x306E;&#x30A4;&#x30D9;&#x30F3;&#x30C8;&#x3092;&#x691C;&#x7D22;&#x3067;&#x304D;&#x307E;&#x3059;&#x3002;&#x5168;&#x53E3;&#x5EA7;&#x306B;&#x5BFE;&#x3057;&#x3066;&#x30AF;&#x30A8;&#x30EA;&#x3092;&#x304B;&#x3051;&#x308B;&#x3053;&#x3068;&#x304C;&#x3067;&#x304D;&#x308B;&#x3088;&#x3046;&#x306B;&#x306A;&#x308A;&#x3001;5,000&#x4EE5;&#x4E0A;&#x306E;&#x53E3;&#x5EA7;&#x3092;&#x6301;&#x3064;&#x6CD5;&#x4EBA;&#x9867;&#x5BA2;&#x3067;&#x3082;&#x3059;&#x3050;&#x306B;&#x7D50;&#x679C;&#x3092;&#x8868;&#x793A;&#x3067;&#x304D;&#x307E;&#x3059;&#x3002;&#x3053;&#x308C;&#x307B;&#x3069;&#x306E;&#x30AB;&#x30B9;&#x30BF;&#x30DE;&#x30FC;&#x30A8;&#x30AF;&#x30B9;&#x30DA;&#x30EA;&#x30A8;&#x30F3;&#x30B9;&#x6539;&#x5584;&#x3092;&#x5B9F;&#x73FE;&#x3057;&#x305F;&#x4E00;&#x65B9;&#x3001;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x306B;&#x306F;&#x4E00;&#x5207;&#x306E;&#x904B;&#x7528;&#x8CA0;&#x62C5;&#x304C;&#x52A0;&#x308F;&#x3063;&#x3066;&#x3044;&#x307E;&#x305B;&#x3093;&#x3002;&#x9AD8;&#x4FA1;&#x306A;&#x30E1;&#x30A4;&#x30F3;&#x30D5;&#x30EC;&#x30FC;&#x30E0;&#x3092;&#x5897;&#x5F37;&#x305B;&#x305A;&#x306B;&#x6E08;&#x3093;&#x3060;&#x3053;&#x3068;&#x3067;&#x3001;&#x5E74;&#x9593;&#x6570;&#x5104;&#x5186;&#x898F;&#x6A21;&#x306E;&#x30B3;&#x30B9;&#x30C8;&#x7BC0;&#x7D04;&#x306B;&#x306A;&#x308A;&#x307E;&#x3057;&#x305F;&#x3002;&#x73FE;&#x5728;&#x306F;&#x3001;&#x30D5;&#x30ED;&#x30F3;&#x30C8;&#x30A8;&#x30F3;&#x30C9;&#x306E;&#x3059;&#x3079;&#x3066;&#x306E;&#x30A2;&#x30D7;&#x30EA;&#x30B1;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x306B;Elasticsearch&#x304C;&#x5C0E;&#x5165;&#x3055;&#x308C;&#x3001;&#x691C;&#x7D22;&#x3084;&#x6C7A;&#x6E08;&#x3001;&#x9810;&#x91D1;&#x53D6;&#x5F15;&#x306E;&#x30A2;&#x30B0;&#x30EA;&#x30B2;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x306B;&#x4F7F;&#x7528;&#x3055;&#x308C;&#x3066;&#x3044;&#x307E;&#x3059;&#x3002;
Elastic Stack&#x3068;&#x306E;&#x51FA;&#x4F1A;&#x3044;&#x3067;&#x3001;&#x30ED;&#x30B0;&#x3068;&#x30E1;&#x30C8;&#x30EA;&#x30C3;&#x30AF;&#x306B;&#x3082;&#x5909;&#x5316;&#x304C;&#x8D77;&#x304D;&#x307E;&#x3057;&#x305F;&#x3002;&#x30C1;&#x30FC;&#x30E0;&#x30FB;&#x30D5;&#x30A9;&#x30FC;&#x30C8;&#x30EC;&#x30B9;&#x306F;Elasticsearch&#x3001;Logstash&#x3001;Kibana&#x3092;&#x6D3B;&#x7528;&#x3057;&#x305F;&#x76E3;&#x8996;&#x30BD;&#x30EA;&#x30E5;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x3092;&#x958B;&#x767A;&#x3057;&#x3001;&#x30C7;&#x30FC;&#x30BF;&#x30B9;&#x30C8;&#x30A2;&#x30BD;&#x30EA;&#x30E5;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x306E;&#x5168;&#x30B3;&#x30F3;&#x30DD;&#x30FC;&#x30CD;&#x30F3;&#x30C8;&#x3092;&#x76E3;&#x8996;&#x3057;&#x3066;&#x3044;&#x307E;&#x3059;&#x3002;Elastic Stack&#x3067;&#x3001;CPU&#x304B;&#x3089;&#x30E1;&#x30E2;&#x30EA;&#x306E;&#x4F7F;&#x7528;&#x91CF;&#x3001;&#x30ED;&#x30B0;&#x3001;&#x30A8;&#x30E9;&#x30FC;&#x30E1;&#x30C3;&#x30BB;&#x30FC;&#x30B8;&#x3001;&#x691C;&#x7D22;&#x30B7;&#x30B9;&#x30C6;&#x30E0;&#x306B;&#x4F7F;&#x3046;&#x30A2;&#x30D7;&#x30EA;&#x30B1;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x3068;&#x4EEE;&#x60F3;&#x74B0;&#x5883;&#x306B;&#x95A2;&#x3059;&#x308B;&#x30C7;&#x30FC;&#x30BF;&#x3092;&#x3059;&#x3079;&#x3066;&#x76E3;&#x8996;&#x3067;&#x304D;&#x307E;&#x3059;&#x3002;&#x73FE;&#x5728;&#x3001;&#x30DE;&#x30B7;&#x30F3;&#x7528;&#x306B;&#x30AB;&#x30B9;&#x30BF;&#x30DE;&#x30A4;&#x30BA;&#x3057;&#x305F;&#x30C0;&#x30C3;&#x30B7;&#x30E5;&#x30DC;&#x30FC;&#x30C9;&#x3068;&#x30A2;&#x30D7;&#x30EA;&#x30B1;&#x30FC;&#x30B7;&#x30E7;&#x30F3;&#x306B;&#x3064;&#x3044;&#x3066;&#x8A73;&#x3057;&#x304F;&#x8868;&#x793A;&#x3059;&#x308B;&#x30C0;&#x30C3;&#x30B7;&#x30E5;&#x30DC;&#x30FC;&#x30C9;&#x306E;2&#x7A2E;&#x985E;&#x3092;&#x4F7F;&#x3063;&#x3066;&#x3044;&#x307E;&#x3059;&#x3002;&#x3055;&#x3089;&#x306B;&#x3001;Elastic Stack&#x306E;&#x30A2;&#x30E9;&#x30FC;&#x30C8;&#x6A5F;&#x80FD;&#x3092;&#x4F7F;&#x3044;&#x3001;&#x554F;&#x984C;&#x304C;&#x751F;&#x3058;&#x305F;&#x969B;&#x306B;&#x901A;&#x77E5;&#x3059;&#x308B;&#x3088;&#x3046;&#x8A2D;&#x5B9A;&#x3057;&#x307E;&#x3057;&#x305F;&#x3002;&#x30EB;&#x30CD;&#x30FB;&#x30D0;&#x30A6;&#x6C0F;&#x306F;&#x6B21;&#x306E;&#x3088;&#x3046;&#x306B;&#x8A9E;&#x308A;&#x307E;&#x3059;&#x3002;&#x300C;&#x3069;&#x3093;&#x306A;&#x30A4;&#x30F3;&#x30B7;&#x30C7;&#x30F3;&#x30C8;&#x3082;&#x898B;&#x9003;&#x3057;&#x307E;&#x305B;&#x3093;&#x3002;Elastic Stack&#x3092;&#x9078;&#x3093;&#x3060;&#x306E;&#x306F;&#x3001;&#x30EC;&#x30B8;&#x30EA;&#x30A8;&#x30F3;&#x30B9;&#xFF08;&#x5F37;&#x976D;&#x3055;&#xFF09;&#x306B;&#x512A;&#x308C;&#x3066;&#x3044;&#x308B;&#x304B;&#x3089;&#x3067;&#x3059;&#x300D;
</body></html>

rabobank_banner.jpg

rabobank.png

Rabobank: Enhancing the Online Banking Experience with Elasticsearch

ラボバンク：Elasticsearchで銀行業務を大幅に改善

最適な運用ログソリューションを模索したLyftが、セルフマネージドのElasticsearchに行き着いた理由とは？

本記事は<a href="/jp/elasticon/conf/2018/sf">Elastic{ON} 2018</a>での事例紹介セッションの要約です。Elastic{ON} 2018のセッションはアーカイブで多数公開中です。また、お近くの都市で開催される<a href="/jp/elasticon">Elastic{ON} Tour</a>のスケジュールもご覧ください。
年間数億回（2017年は3億7千万回超）の乗車を取り扱うサービス事業者のLyftには、すべての乗客を確実に目的地に運ぶためのパワフルな技術インフラが欠かせません。2017年現在で、1万を超えるEC2インスタンスから200以上のマイクロサービスを提供しており、その数字は大晦日（1日あたり200万回の乗車）やハロウィン（ピークで毎分2000回超の乗車）にはさらに増加します。Lyftのすべてのシステムと乗車サービスを安定稼働させる上で重要となるのが、エンジニアにすべての運用ログへのアクセスを確保すること。そのため、マイケル・ゴールズビー氏と彼が率いる可観測性チームはログパイプラインのサービスフローを昼夜保ち続けています。 
ログ分析の開始時、LyftはSplunk Cloudのサービスを使用していました。しかし、ピークタイムでもバックアップデータ投入が30分間隔という制約があったこと、スケールする際にコストがかさむなどの理由から、Elasticsearchを導入することとなりました。
2016年の終わり、2人のエンジニアが1か月限定で、Splunkに代わりAWSでAmazon Elasticsearch Serviceを試験運用しました。この結果、Elasticsearchは非常に良かったものの、AWSのサービスはLyftにマッチしない部分がありました。ゴールズビー氏のチームが当時の最新バージョンであるElasticsearch 5.xを希望したのに対し、AWSで提供されていたバージョンが2.3であったことが理由の1つです。さらに、Amazon EBSのストレージでは新規のインスタンスに制限があり、Lyftに最適な規模へスケールさせた場合、パフォーマンスと信頼性を確保できないという問題もありました。しかし、こうしたAWSの制約を考慮しても、Elasticsearchへの移行にはメリットが多くありました。
バックアップデータを投入する間隔の制約から解き放たれたことで、運用監視チームは新しい扉を開くことができました。つまり、「全部のログを送る」という新たなアプローチを実現させたのです。データ投入のレートは毎分100Kイベントから1.5Mイベントにまで跳ね上がりましたが、4か月ほど、すべてが順調に進みました。しかし、次第に投入のタイムアウト、保存期間の短縮、Kibanaダッシュボードの反応遅延などの問題が生じるようになります。スケールの不足から来るものでした。当時AWSの上限は20ノードでしたが、Lyftは例外として特別に40ノードを使用させてもらえることになりました。
その40ノードでも問題が生じるようになりました。いわゆる「レッドクラスター」です。
ゴールズビー氏のチームは、クラスターのヘルスが「レッド」になった際の対処方法も心得ていました（リスタートする、ノードをリプレースするなど）。問題は、クラスターに直接アクセスできないことでした。AWSを運営するAmazonでサポートチケットをオープンし、ビジネスがピークとなる時間帯でもサポートからの応答を待ち続けるしかありません。また窓口となる担当者にはクラスターへのアクセス権がなく、サポート内でエスカレーションが行われます。Lyftはこのプロセスを学び、アクセス権のあるAmazonのテクニカルアカウントマネージャーに直接連絡をとるようになりました。
外部サポートの問題や、バージョンが2.3であること、EBSの要件のほかにも、均等負荷分散、60秒のタイムアウトルール、API機能の制限など、LyftがAWSにマッチしない部分は少なくありません。こうして運用監視チームはふたたび移行を決意し、今度はセルフマネージドでElasticsearchをデプロイすることにしました。ゴールズビー氏は次のように語っています。「（当時のAWSでは）使える機能にも制限がありました。社内でElasticsearchの運用経験がある程度蓄積されてきたこともあり、今なら自分たちでやれると考えたのです」
LyftはSplunkの導入時よりやや大きなチームで取り組み、セルフマネージドのElasticsearchへの移行をわずか2週間で実現しました。すべてのデプロイを自分達でできるようになり、AWS時代にはなかった機能も使えるようになりました。またこの瞬間から、クラスターをグリーンに保ち、ユーザーに快適なサービスを提供することを含めて、Elastic Stackのオペレーションの全責任をLyftが負う体制となりました。

<a href="/jp/elasticon">Elastic{ON} 2018</a>で発表された事例紹介セッション「<a href="/jp/elasticon/conf/2018/sf/lyfts-wild-ride-from-amazon-es-to-self-managed-elasticsearch">運用ログ分析のためにセルフマネージドのElasticsearchに移行したLyftの軌跡</a>」も併せてご覧ください。ハードウェアの選択やインデックスライフサイクル管理など詳しい設定情報のほか、「すべてをログにする」ことと「何でもログにする」ことの違いについても紹介しています。
 
<a href="/jp/elasticon/conf/2018/sf/lyfts-wild-ride-from-amazon-es-to-self-managed-elasticsearch"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt666fd2101df677e6/5c57e1848c741b010cbf6af9/lyft_thumb_play.jpg" data-sys-asset-uid="blt666fd2101df677e6" alt="lyft_thumb_play.jpg" style="display: block; margin: auto;"></a>

Articles by Tony Sleva

ユーザーエクスペリエンスの向上を実現させたGoDaddyのMachine Learning活用術

ラボバンク：Elasticsearchで銀行業務を大幅に改善

Lyftと運用ログ：Splunk CloudからAmazon ES、セルフマネージドのElasticsearchへ

プロダクト

Elasticについて

情報