2018年9月25日 发布

ECE 2.0:主机标记、ML、冷热节点架构,不一而足

作者 Roy Zanbel

Elastic Cloud Enterprise (ECE) 在一年前刚推出的时候,我们所有人都持谨慎且无比兴奋的乐观态度。ECE 的设计宗旨是提供一种集中式方式,让您得以轻松配置、管理整个 Elasticsearch 系列集群并相应调整规模。创建能够管理大型 Elasticsearch 系列集群的解决方案当然面临着巨大挑战,我们对这一点再熟悉不过了;在构建我们自身 Elasticsearch 服务的过程中,我们就曾亲历这一问题!

创建 ECE 时所用的代码库就是我们运行 Elasticsearch 服务时所用的代码库,但 ECE 将其整合到了一起,这样的话,用户便可在任何地方加以部署,并享受经过实战考验的同一软件,而且此软件还具有跨多个云服务提供商管理数千个集群时所用到的同等功能集合。

我们很快了解到并非只是管理着大量集群的大型公司会采用 ECE,很多具有较小工作负载的公司也在应用 ECE。似乎所有人都在想方设法采用 ECE。

在过去的一年中,我们有幸从 ECE 用户那里了解到了很多内容,对我们的产品进行了改善,并且也明确了我们接下来的发展路径。我们现在无比激动地宣布隆重推出更具精益特性、更出色的最优化版本,那就是 ECE 2.0!

这一版本中包括很多实用功能。下面为您介绍我们最为之兴奋的几项功能。 

不限用例,不限规模

ECE 2.0 关注的主要领域是为更大规模、更加复杂的用例(例如日志和时序数据)提供更好的支持,并允许管理员更好地控制集群所有者部署和配置这些用例的方式。有了下面几个主要功能,便可实现这一点。

向集群所有者一样,对其进行标记

标记是添加到每个分配器主机的键值对。对于云计算和容器编排领域的人士而言,他们早已熟知这个概念,因为他们就会使用标签和选择器进行配对。ECE 2.0 如今引入了分配器标记,借助此功能,您可以向分配器添加任意标签,来对其进行归类。标记可用来显示其所属的团队、其底层硬件规格,从本质上来讲,其可包括有助于您对此分配器进行归类的任何其他标识符。这些标记之后会用来将集群节点和 Kibana 实例匹配至最适合用来对其进行托管的分配器。 

host_tagging.png

实例配置,专门为您量身定制

在旧版 ECE 中,所有 Elasticsearch 节点是平等的。这些节点共享同样的配置,并且会启用同样的角色。这样限制了用户单独管理每个节点类型的能力,而单独管理每个节点类型对很多用例来说却是一项很有必要的要求。 

借助 ECE 2.0,您可以在集群内单独部署、管理每个组件并相应调整规模。ECE 还提供实例配置功能,通过此功能,您可以确定针对每个节点启用哪些角色,使用上面讲到的标记来配置筛选器以将节点与分配器主机进行匹配,并且根据节点的既定用途设定 RAM 与存储之间的比例。

creating_instance_config.gif

推出:部署模板

说到控制台中功能最为多样的工具,肯定少不了我们新推出的可定制部署模板。部署模板会将不同节点类型的实例配置集合组合到一起,作为您集群的蓝图。借助部署模板,您可以确定每个节点的默认值和配置,例如节点规模、可用区域的数量等。

您还可以自创模板,根据用例、团队或者需要独特分配器集合的任何因素进行配置即可。创建新集群时,部署模板可提供预先配置好的设置,助您简化部署流程中的每个步骤。

deployment_template.png

正在使用 Elastic Stack 来处理时序索引?您肯定会爱上这个功能

Elastic Stack 的一个常见用例是采集时序数据,例如日志消息。在此种场景中,我们通常推荐使用冷热节点架构,规模较大时,尤其如此。 

我们在 ECE 2.0 中加入了冷热节点架构模板,您可以借助此模板配置两个不同的数据节点级别。热数据节点将会用来采集数据并存储较为近期的索引,因为搜索这些索引的概率要高一些,所以应该将其部署在拥有更佳 I/O 性能且更加稳健强大的主机上。冷数据节点则可用来存储和保留大量的长期数据。在大部分情况下,早期数据都是不会改变的,访问这些数据的频率也会低得多,这就意味着可将其存储在价格便宜一些、配有旋转盘的分配器主机上,虽然其搜索结果性能会有所降低,但是数据存储成本却要低得多。

如要配置何时将索引从热级别转换为冷级别,ECE 2.0 提供了内置索引管理功能,你可以通过此功能配置相应的时间段,然后便可以高枕无忧让 ECE 代您完成剩余的所有事情。

index_curation.png

这些功能是如何整合到一起的

Elastic Stack 功能多样,可用于各种用例,例如日志分析、安全分析、指标、搜索等。创建部署时,用户可能会发现如果在特定的硬件配置文件上运行,单独用例的效果会更佳。进一步而言,即使在同一个集群内,选择在配有相关配置文件的分配器主机上运行各个节点类型,也是一个明智的决定。例如,您的 Kibana 实例可能在拥有更多 RAM 的主机上可实现最佳效果,而在拥有很多存储的主机上,则未必如此;另一方面,尽管您的 Machine Learning 节点不会要求大量存储空间,但是在拥有更多 CPU 的主机上却最为高效。 

通过 ECE 2.0 的主机标记、实例配置和部署模板功能,您在控制集群时将会拥有大得多的灵活性和控制能力。其同时还为我们开启了下面几扇大门:针对不同硬件配置文件提供本地支持,优化硬件利用率,以及改善性能和降低成本。 

您可以通过多种方式在用例内应用这些功能,我们之后也会专门发一篇博文来更深入地讨论这些问题。我们同时还会提供更多范例,让您了解如何针对自己的需求进行正确配置。

发挥 Machine Learning 的巨大能力

如在实例配置一节中所述,用户在之前的 ECE 版本中无法针对集群内的每个节点启用特定角色。这一点也阻碍了我们在托管集群内为 Machine Learning 提供正式支持,因为在生产环境中运行 Machine Learning 作业需要使用专用的机器学习节点。 

通过我们新推出的实例配置功能,您现在可以配置专用的机器学习节点,将其与您集群内的其他节点区分开来,单独对这些节点进行管理并相应调整规模。

您还可以使用实例配置来创建专属主节点,您必须使用这些主节点方可支持更大规模的集群或专用数据采集节点。如果您使用的是繁重的数据采集时间处理,并希望在添加更多通道来进一步丰富数据的同时调整数据采集层的规模,则这一功能尤为实用。

scaling_instance.gif

支持使用最新的 Docker 版本在 Ubuntu 上进行安装

您现在可以使用 Docker 18.03 在 Ubuntu 16.04 上安装 ECE。这是一项重大更新,因为 ECE 1.x 仅支持 Docker 1.11,而 Docker 1.11 已于不久之前正式停用。现在,在所有的 ECE 节点上,您都可以对 Docker 引擎进行更新啦!

之后我们会更加频繁地定期针对新 Docker 版本推出支持,以与每年两次的 Docker LTS 支持保持一致。

针对部署的 SAML 身份验证

ECE 已经针对您的所有部署推出了安全性和身份验证集成。在 ECE 2.0 中,我们扩展了身份验证整合选项,以将 SAML 身份验证也包括在内。

升级兼容性

尽管 ECE 2.0.0 是一个重大发行版本,但是上述所有功能都具有向后兼容性。这意味着您可以从安装的 ECE 1.x 升级到 ECE 2.0.0,并充分利用这些新功能。

看一下这些漂亮的颜色

为了提高易用性,我们对用户控制台进行大量改进工作。下面仅列举几项:

  • 已不再使用集群。取而代之的是部署:随着我们面向 Elastic Stack 之外的其他产品提供支持,我们觉得必须使用一个更加通用的词汇来描述我们在 ECE 内创建的内容。尽管 Elastic 集群在任何部署中都是十分重要的一部分,然而新的词汇“部署”能够更好地描述在 ECE 中管理 Elastic Stack 的方式。
  • 创建部署工作流:需要一个新的”创建部署“工作流来支持实例配置和部署模板。通过这一新的工作流,您只需选择心仪的模板,即可调整配置,保存部署默认值,并创建部署。
  • 导航更轻松:我们更新了导航系统,以便您能更轻松地在 UI 内找到相应位置并编辑部署。而且,我们对所有部署的概览页面,以及一层层找到具体部署的页面,都进行了必要的调整,现在可以显示更具相关性的信息以及可选操作。
  • 添加了夜间模式:如果您希望在太阳下山后工作,可以将 ECE 设置为夜间主题,从而缓解用眼疲劳,体验一下黑暗的魅力。

ECE 2.0 还包括很多新功能。请参阅《发行说明》了解全部信息。想亲自试用吗?参加我们的 30 天免费试用活动,亲自体验一下吧,记得要与我们分享您的试用体验哦!