gydtep 发表于 2021-1-27 16:10:20
MaxCompute交互式分析(Hologres)提出实时数仓“服务分析一体化”的概念,让一个大数据引擎既能满足 OLAP的实时洞察分析又能满足KV式的高QPS点查特征服务的需求,将实时分析和服务做到很好的融合,极大的简化了实时数仓架构的复杂度,助力客户实时的分析与决策。gydtep 发表于 2021-1-28 09:22:27
小红书之前自建了一个较大规模的ClickHouse集群,但是运转一段时间后,ClickHouse的弊端凸显,比如成本高、查询慢、不稳定、集群运维复杂。采用了Hologres后,获得存储计算分离的架构,轻松存储了15天数据,并且可以快速查询7天甚至15天数据,查询性能有大幅度提升;还有主键去重(insert or ignore),上游failover无影响,免运维等优势,客户满意度非常高。gydtep 发表于 2021-1-28 13:19:56
进一步来分析为什么会这样呢?2003年到2006年可以认为是大数据的诞生期,谷歌的三大论文发表对于业界产生了巨大的影响力,但是值得注意的一点是谷歌所提出的技术重点是解决分布式扩展问题,不一定应用在数据库上面。gydtep 发表于 2021-1-28 16:23:24
可以简单地说,每天生成越来越多的数据,这正增加了存储工作负载的规模和复杂性。但是,人工智能可以拯救存储管理员,帮助他们高效地存储和管理数据。通过使用AI数据存储,供应商和企业可以将存储管理提升到一个新的水平。而且,存储管理员可以找到他们目前正在努力管理的指标的解决方案。gydtep 发表于 2021-1-28 20:42:15
遥测数据是自动记录和无线传输来自远程或不可访问来源的数据。遥测以下列方式起作用:传感器在源处测量数据,它们将其转换为电压,然后将其与定时数据合并为单个数据流,该数据流将传输到远程接收器。接收后,可以根据用户要求对数据进行处理。gydtep 发表于 2021-1-29 10:10:31
AI数据存储仍处于起步阶段,但已经显示出了惊人的结果。而且,因此云供应商和其他存储管理员正在对AI进行越来越多的投资,以使用超融合存储系统进行存储维护。采用主流AI数据存储肯定会帮助企业控制上述所有指标,并为其客户提供更好的服务。gydtep 发表于 2021-1-29 13:14:52
在过去的十年间,云计算获得了很大的发展,其使得用户能够通过API的方式非常轻松地获得近乎无限的算力,而这些算力是通过虚拟机来呈现的,这样的模式存在很多的优点,它和应用原来的开发和运行环境是兼容的,这种模式能够使得传统遗留应用非常平滑地迁移到云上。gydtep 发表于 2021-1-30 11:40:18
对于分支,我们会持续更新和保留最新版本的索引数据;对于代码评审,我们会构建源分支的每次Push版本和源目标分支的merge-base版本的索引。gydtep 发表于 2021-1-31 12:39:06
每时每刻都在发生技术的升级和变革,只有持续不断的学习,才能对老的架构有新的认识,对于老的问题产生新的解法,要了解业界最近在发生什么变化,这个领域最关键的项目和人在做什么,学习他们的技术,学习他们的论文。我以前每天大概2到3个小时是用来学习。这几个小时的学习时间是我最放松的时间,不用去想太多事。gydtep 发表于 2021-2-1 07:10:24
解决问题是制定问题的实施路径和解决方案,协同团队和上下游,推进问题的解决。架构要解决的问题一定不是一个局部问题,一定是一个全局问题。架构师一定会碰到各种各样的角色和链路,他要有这个能力去定义问题的解决方案和实施路径,同时要协同团队。他不能闷头做事,真的要抬头,并且是要有良好的沟通能力,跟所有的同学达成共识才能往前进。