機械学習による異常パターンの発見を、最新のセキュリティソフトを回避する“Living Off the Land（環境寄生）”手法による攻撃の検知に活用する取り組みをご紹介します。

<p>アンチウイルスソフトや機械学習ベースのマルウェア検知がすぐれた効果を発揮するようになったことで、攻撃者は最新のセキュリティソフトウェアを回避すべく、“Living Off the Land（環境寄生）”戦術に移行しています。このテクニックは、OSにプリインストールされたシステムツールの実行を活用したり、あるいはIT管理者タスクを自動化する、スクリプトを定期的に実行する、リモートシステムでコードを実行するといった際の、管理者による一般的な持ち込みを前提としています。攻撃者はpowershell.exeやwmic.exe、schtasks.exeなどの信頼あるOSツールを使用するため、特定が難しくなる可能性もあります。このようなバイナリはそれ自体に問題があるわけではなく、多くの環境で一般的に使用されています。したがって、定期的に実行されるバイナリにノイズを注入するだけで、攻撃者はほとんどの防御策をやすやすと潜り抜けることができます。このような侵入のパターンを後から検知するには、明確な手掛かりなしに、何百万という数のイベントを厳密に調べなくてはなりません。
</p><p>この課題に対して、複数のセキュリティ研究者が、疑わしいペアレント-チャイルドプロセスチェーンをターゲットとする検知器の開発に取り組んでいます。研究者はMITRE ATT&CK™のシナリオを、一定のコマンドライン因数を伴ったチャイルドプロセスをローンチする特定のペアレントについて警告を発する検知ロジックの記述に活用できます。わかりやすい例が、Base64エンコードの引数でpowershell.exeを生成するMS Officeへの警告です。しかしこの方法には過剰検知を調整するための領域専門家と明確なフィードバックループが必要であり、プロセスとしては非常に時間がかかります。
</p><p>オープンソースの攻撃シミュレーションとして、セキュリティ担当者が検知器のパフォーマンス評価に利用できる“Red vs Blue”フレームワークは複数存在します。しかし、どれほど効果的な場合でも、検知器のロジックは特定の一つの攻撃しか解決できません。新たに出現しつつある攻撃について、検知器による一般化が困難なことを逆手に取り、機械学習を活用する独自の機会と捉えてみましょう。
</p> <strong><h2>グラフで考える</h2></strong><p>悪意のあるペアレント-チャイルドプロセスの検知について検討を開始したとき、筆者がまず考えたのは、これをグラフの問題に転換するというアイデアでした。所与のホストにおいて、プロセスの実行はグラフとして表現できるからです。グラフ中のノードはプロセスID（PID）によって開始される個別のプロセスで、各エッジはノードに接続するprocess_creationイベントとなります。いずれのエッジにも、タイムスタンプやコマンドライン引数、ユーザーなど、イベントに由来する重要なメタデータが豊富に存在しているはずです。
</p><p style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/bltef61d88cac306543/5e507da426150d0da990265b/discovering-anomalous-behavior-blog-process-chain.png" data-sys-asset-uid="bltef61d88cac306543" alt="discovering-anomalous-behavior-blog-process-chain.png" width="373" height="321" style="width: 373px; height: 321px;">
</p><figcaption style="text-align: center;">図1 - プロセスチェーンをグラフで表現した例</figcaption><p><br>
</p><p>ホストマシンが処理したイベントをグラフに表現すると、このようになります。しかしLiving Off the Land（環境寄生）攻撃は、常時実行するプロセスと同じシステムレベルで引き起こされる可能性があります。つまり、あるグラフの中で、良いプロセスと悪いプロセスを分離する方法が必要です。コミュニティ検知という手法は、大規模なグラフをノード間のエッジの密度に基づいて小規模な“コミュニティ”に分割します。この手法を使うには、コミュニティ検知が適切に動作し、グラフの異常な部分を確実に検知するため、ノード間に重みを生成する方法が必要になります。私たちはここで、機械学習に着目しました。
</p> <strong><h2>機械学習</h2></strong><p>“エッジ重み付けモデル”を生成するにあたっては、教師あり学習を使用します。機械学習のアプローチの1つである教師あり学習には、モデルにフィードする分類済みデータが必要です。幸い、私たちは上述のオープンソースのRed vs Blueフレームワークを教育用データの生成に活用することができました。以下に、教育用資料として使用したオープンソースのRed vs Blueフレームワークの一部をご紹介します。
</p> <strong><h4>Redチームフレームワーク</h4></strong><ul>
	<li><a href="https://github.com/redcanaryco/atomic-red-team">Atomic Red Team</a>（Red Canary）</li>
	<li><a href="https://github.com/endgameinc/RTA">Red Team Automation</a>（Endgame/Elastic）</li>
	<li><a href="https://github.com/mitre/caldera">Caldera Adversary Emulation</a>（MITRE）</li>
	<li><a href="https://github.com/uber-common/metta">Metta</a>（Uber）</li>
</ul> <strong><h4>Blueチームフレームワーク</h4></strong><ul>
	<li><a href="https://eqllib.readthedocs.io/en/latest/atomicblue.html">Atomic Blue</a>（Endgame/Elastic）</li>
	<li><a href="https://github.com/mitre-attack/car">Cyber Analytics Repository</a>（MITRE）</li>
	<li><a href="https://github.com/microsoft/WindowsDefenderATP-Hunting-Queries">MSFT ATP Queries</a>（Microsoft）</li>
</ul> <strong><h3>データ投入と正規化</h3></strong> <strong><h3></h3></strong><p style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt00f32018fe982214/5e507df806f84d0d618d9bf4/discovering-anomalous-behavior-blog-sample-process-creation.png" data-sys-asset-uid="blt00f32018fe982214" alt="discovering-anomalous-behavior-blog-sample-process-creation.png">
</p><figcaption style="text-align: center;">図2 - 特徴エンジニアリングの実行前、および実行後のプロセス作成イベントの例</figcaption><p><br>
</p><p>イベントデータの投入が完了したら、次にデータを数値表現に変換する必要があります（図2）。数値で表現することで、モデルが攻撃範囲にある広範なペアレント-チャイルド関係を学習することが可能になり、単にシグネチャーを覚える作業にならずに済みます。 
</p><p>はじめに、プロセス名とコマンドライン引数について特徴エンジニアリング（図3）を実施します。TF-IDFベクトル化により、データセット全体の1つのイベントに対する、所与の単語の統計的な重要性を捉えます。タイムスタンプを整数に転換することにより、ペアレントプロセスの開始時間と、チャイルドプロセスがローンチされた時間の間のデルタ値を測定することができます。その他の特徴は、もともとバイナリ（1か0、YesかNoなど）です。典型的な特徴のタイプとして、次のような例があります。 
</p><ul>
	<li>プロセスに署名はあるか？ </li>
	<li>署名者を信頼できるか？ </li>
	<li>プロセスは昇格しているか？</li>
</ul><p><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt25637fac37f11262/5e50802eaa10350d40de7cfd/discovering-anomalous-behavior-blog-feature-engineering.png" data-sys-asset-uid="blt25637fac37f11262" alt="discovering-anomalous-behavior-blog-feature-engineering.png">
</p><figcaption style="text-align: center;">図3 - イベント処理メタデータへの特徴エンジニアリングの例</figcaption><p><br></p><p>数値表現に変換したら、そのデータセットを使って教師あり学習モデルを教育します（図4）。このモデルは、所与のプロセス作成イベントについて、0（正常）から1（異常）の範囲で“異常スコア”を提供します。つまり、この異常スコアがエッジの重み付けに使えるというわけです。
</p><figcaption style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt035ac4d8f6488c90/5e5080cf9911e20db4ddf7ec/discovering-anomalous-behavior-blog-supervised-machine-learning.png" data-sys-asset-uid="blt035ac4d8f6488c90" alt="discovering-anomalous-behavior-blog-supervised-machine-learning.png"><br>図4 - 教師あり機械学習のワークフローの例</figcaption><p> <strong></strong></p><h3><strong>出現率サービス</strong></h3><figcaption style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt5d6f3f5d4a9a94a8/5e50811caa10350d40de7d03/discovering-anomalous-behavior-blog-conditional-probabilities-1.png" data-sys-asset-uid="blt5d6f3f5d4a9a94a8" alt="discovering-anomalous-behavior-blog-conditional-probabilities-1.png" width="216" height="149" style="background-color: initial; width: 216px; height: 149px;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt8c47b8c822d879b1/5e50811363fdbd0db5743cea/discovering-anomalous-behavior-blog-conditional-probabilities.png" data-sys-asset-uid="blt8c47b8c822d879b1" alt="discovering-anomalous-behavior-blog-conditional-probabilities.png" width="279" height="143" style="width: 279px; height: 143px;"><br>図5 - 出現率エンジンに使用した条件付き確率</figcaption><p style="text-align: center;"><br></p><p>重み付けグラフが完成しました。機械学習モデルに感謝です。これで任務は完了でしょうか？今回教育したモデルは、善悪について私たちが持つ包括的な理解に基づき、所与のペアレント-チャイルドチェーンについて、良し悪しの適切な判断を下すことができます。しかし実際には、すべての顧客環境は異なっています。私たちがこれまで観測したことのないプロセスや、PowerShellを使うシステム管理者など、さまざまな状況が存在するはずです。
</p><p>要するに、もしこのモデルを単独で使用すると、誤検知が大量発生し、アナリストの調査を必要とするデータ量も増える可能性が高いのです。この潜在的な問題を回避するため、私たちは所与のペアレント-チャイルドプロセスが、その環境内でどの程度“よくある”ものかを示す出現率サービスを開発しました。環境のローカルな差異を考慮することで、一層確信をもって疑わしいイベントを昇格、あるいは抑制でき、その結果、真に異常なプロセスチェーンをあぶり出すことができます。 
</p><p>出現率サービス（図5）は、条件付き確率で算出される2つの統計に依拠します。この統計は次のように記述できます：“このペアレントで、このチャイルドは、他のチャイルドプロセスよりX％多く見られる”、かつ“このプロセスで、このコマンドラインは、このプロセスに関連する他のコマンドラインよりX％多く見られる”。 この出現率サービスを構築すれば、中核となる検知ロジックの“find_bad_communities”の完成度を高めることができます。
</p> <strong><h3>“悪い”コミュニティを見つける</h3></strong><figcaption style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/bltb6c59558aee70528/5e50815b1ec0810daab50176/discovering-anomalous-behavior-blog-python-code.png" data-sys-asset-uid="bltb6c59558aee70528" alt="discovering-anomalous-behavior-blog-python-code.png"><br>図6 - 異常なコミュニティの発見に使ったPythonコード</figcaption><p style="text-align: center;"><br></p><p>上のスクリーンショット（図6）は、悪いコミュニティを生成するために使われたPythonコードを示しています。“find_bad_communities”のロジックは、非常にストレートです。
</p><ol>
	<li>ホストマシンに対し、各process_createイベントを分類してノードペア（ペアレントノードとチャイルドノードのペア）と、関連性の重み（機械学習モデルが出力した値）を生成する </li>
	<li>有向グラフを構築する </li>
	<li>コミュニティ検知を実行して、グラフ内にコミュニティのリストを生成する</li>
	<li>各コミュニティ内で、ペアレント-チャイルドの出現率（各関係）を算出する最終的なanomalous_scoreに、ペアレント-チャイルドイベントの尋常性を考慮する </li>
	<li>anomalous_scoreが閾値と同一、または閾値を超える場合、そのコミュニティ全体をアナリストにレビューさせる </li>
	<li>各コミュニティの分析完了後、anomalous_scoreを降順でソートした“悪い”コミュニティリストを返す</li>
</ol> <strong><h2>結果</h2></strong><p>今回、最終モデルの教育には、現実のデータと、シミュレーションによる無害なデータおよび、悪意あるデータの組み合わせを用いました。無害なデータは、社内ネットワークから収集した3日分のWindowsプロセスイベントデータで構成されます。小規模な組織を再現できるよう、データのソースとして、ユーザーワークステーションとサーバーを組み合わせました。悪意あるデータの生成には、Endgame RTAフレームワーク経由で、利用できるすべてのATT&CKテクニックを発動させたほか、FIN7やEmotetなど、高度な敵のマクロおよびバイナリベースのマルウェアをローンチしています。
</p><p>主たる実験には、ロベルト・ロドリゲス氏の<a href="https://github.com/hunters-forge/mordor">Mordor project</a>が提供する<a href="https://attackevals.mitre.org/">MITRE ATT&CK Evaluation</a>のイベントデータを使用しました。このATT&CK Evaluationは、PSEmpireやCobaltStrikeといったFOSS/COTSツールを使用し、APT3アクティビティのエミュレートを試みます。これらのツールで、環境寄生手法は実行、持続、または防御回避のタスクを連鎖的に実行することができます。 
</p><p>このフレームワークは、プロセス作成イベントのみを使用し、複数のテクニックからなるいくつかの攻撃チェーンを特定することができました。開示（図7）とラテラルムーブメント（図8）が見つかり、アナリストレビューが必要としてハイライトされています。 
</p><figcaption style="text-align: center;"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt6dcc408f4752159c/5e5081827569ef0d9eca55a5/discovering-anomalous-behavior-blog-discovery-techniques.png" data-sys-asset-uid="blt6dcc408f4752159c" alt="discovering-anomalous-behavior-blog-discovery-techniques.png"><br>図7 - “開示”テクニックを実行するプロセスチェーン</figcaption><figcaption style="text-align: center;"><br><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt19416010ffee0562/5e5081c826150d0da9902667/discovering-anomalous-behavior-blog-lateral-movement.png" data-sys-asset-uid="blt19416010ffee0562" alt="discovering-anomalous-behavior-blog-lateral-movement.png"><br>図7 - ラテラルムーブメントを実行するプロセスチェーン</figcaption><p style="text-align: center;"> <strong></strong></p><h4 style="text-align: center;"><strong><br></strong></h4><h4><strong>データ整理</strong></h4><p>今回のアプローチの副産物として、異常なプロセスチェーンを発見するロジックにとどまらず、誤検知の抑制における出現率エンジンの有用性を示すことができました。出現率エンジンを組み合わせることにより、アナリストによるレビューを必要とするイベントデータの数を劇的に減らすことができました。具体的な数字は、次の通りです。 
</p><ul>
	<li>APT3シナリオで、1エンドポイント当たり最大10,000のプロセス作成イベントを一致させた（合計5エンドポイント）。 </li>
	<li>1エンドポイント当たり最大6の異常なコミュニティを特定した。</li>
	<li>各コミュニティはそれぞれ6から8のイベントで構成された。</li>
</ul> <strong><h2>今後の展開</h2></strong><p>現在、この研究を概念検証から<a href="/jp/security">Elasticセキュリティ</a>の機能に統合されたソリューションへと進展させる取り組みを行っています。特に出現率エンジンは有望です。ファイルの発生頻度をハイライトする出現率エンジンは珍しくありません。しかし、イベント同士の関係の出現率を算出するエンジンがあれば、企業内で何が“稀”で、何が“よくある”かを調べ、かつ最終的にグローバルな環境において“稀な関係”の指標で補うことにより、セキュリティ担当者に役立つ新しい脅威検知手法となります。 
</p> <strong><h2>まとめ</h2></strong><p>私たちは昨年の<a href="https://www.virusbulletin.com/conference/vb2019/abstracts/problem-child-common-patterns-malicious-parent-child-relationships">VirusBulletin</a>と<a href="https://www.camlis.org/2019/talks/filar">CAMLIS</a>で、このグラフベースのフレームワーク（名称は<a href="https://docs.google.com/presentation/u/1/d/1bcdBzxedIDwgAgXJr3LGfIaauk_YnCw3z562N1jYEzE/edit">ProblemChild</a>）についてプレゼンテーションを行いました。この領域のエキスパートが検知器を記述する必要性の軽減を図るためです。プレゼンテーションでは教師あり機械学習を適用して重み付けグラフを作成することにより、一見してかけ離れたイベントから大規模な攻撃シーケンスを発動するコミュニティを特定する能力を実演して見せることができました。私たちが開発したフレームワークは、条件付きの蓋然性を適用することで異常なコミュニティを自動で順位付けし、また、頻発するペアレント-チャイルドチェーンの順位を抑制します。2つの目的に適用されることで、このフレームワークは検知器を作成、あるいは調整するアナリストの負担軽減に役立ち、また時間とともに誤検知も減少します。 
</p>

Articles by Bobby Filar

ペアレント-チャイルドプロセス関係から、異常なパターンを発見

プロダクト

Elasticについて

情報