gydtep
发表于 2021-7-1 15:52:31
在全增量实时同步解决方案系统中,可以从MySql、Oracle、IBM DB2、SQL server、POLARDB等关系型数据库中全量离线同步到MaxCompute、Hologres、Elasticsearch、Kafka、DataHub等大数据产品中,再实现实时抽取关系型数据库的变更信息,同步到大数据产品中。像MaxCompute这种离线数仓,可以通过同步到Log表、拆分至Delta表、Merge到Base表,最后再写入MaxCompute这样的方式做实时增量同步。
gydtep
发表于 2021-7-2 11:09:03
3)从使用上来说,离线加工,实时加工以及统一数据服务层等处理过程中均使用不同的加工语言和接口,使用起来并不容易;
4)学习成本非常高,增大了应用成本。
gydtep
发表于 2021-7-2 15:28:59
为解决这些问题,Elasticsearch应运而生。开源Elasticsearch是一个基于Lucene的实时分布式的搜索与分析引擎,遵从Apache开源条款。它提供了一个分布式服务,可以提供快速的近乎于准实时的存储、查询和分析超大数据集。因其查询速度快、使用简单,通常被用来构建复杂查询特性。
gydtep
发表于 2021-7-2 18:09:32
成本上,阿里云ES提供全托管的弹性伸缩运维能力,避免低峰资源浪费,可通过购买弹性数据节点、控制台配置定时扩缩容、根据业务流量动态扩缩容等方式实现。
gydtep
发表于 2021-7-3 14:12:26
在介绍数据库2025的规划之前,首先回顾一下数据库的发展历程。数据库的发展离不开计算机基础设施的发展,因此可以将数据库的发展分为五个阶段。
gydtep
发表于 2021-7-4 14:01:50
Kubernetes架构的核心就是就是控制器循环,也是一个典型的"负反馈"控制系统。当控制器观察到期望状态与当前状态存在不一致,就会持续调整资源,让当前状态趋近于期望状态。比如,根据应用副本数变化进行扩缩容,节点宕机后自动迁移应用,等等
gydtep
发表于 2021-7-5 08:18:19
随着越来越多的企业 IT 架构,从 on Kubernetes 到 in Kubernetes,大量的 CRD、自定义 Controller给 Kubernetes 的稳定性和性能带来大量的挑战。面向终态的自动化是一把 “双刃剑”,它既为应用带来了声明式的部署能力,同时也潜在地会将一些误操作行为被终态化放大。在发生操作故障时副本数维持、版本一致性、级联删除等机制反而很可能导致**半径扩大。
gydtep
发表于 2021-7-5 12:30:44
在传统软件开发流程中,在系统设计开发完成后和发布交付前,安全人员才开始介入进行安全审核。这种流程无法满足业务快速迭代的诉求。”Shifting left on security“ (安全性左移)”开始得到更多的关注,这将应用程序设计、开发人员尽早与安全团队协作,并无缝地嵌入安全实践。通过左移安全性,不仅可以降低安全风险,还可以降低修复成本。IBM的研究人员发现,解决设计中的安全问题比代码开发期间能节省6倍左右的成本,比测试期间能节省15倍左右的成本。
gydtep
发表于 2021-7-5 16:24:29
从Infrastructure as Code到Everything as Code
基础架构即代码(Infrastructure-as-Code, IaC)是一种典型的声明式API,他改变了云上企业IT架构的管理、配置和协同方式。利用IaC工具,我们可以将云服务器、网络和数据库等云端资源,进而实现完全自动化的创建、配置和组装。
gydtep
发表于 2021-7-5 18:08:43
这样Git成为source of truth,我们可以高效地追溯历史变更、可以轻松回滚到指定版本。GitOps与Kubernetes提倡的声明式API、不可变基础设施相结合,我们可以保障相同配置的可复现性,避免线上环境由于配置漂移导致的不可预测的稳定性风险。
页:
1
2
3
4
5
[6]
7
8
9
10
11
12
13
14
15