互联网时代,我眼中的架构变迁

Coda Coda     2022-10-06     440

关键词:

互联网在变,架构也在变,架构的变迁亦是互联网的变迁。所以,我们有必要来聊聊互联网的架构及其变迁。

何为架构?往大的说,宇宙有架构,社会有架构,往小的说,建筑要有架构,软件要有架构,往玄乎的说,它由分工而来,回归整体而去,往实际的说,架构的核心就是为了解决问题,包括业务的问题、人的问题。

立足互联网行业,架构通常指的是技术架构,更具体一点的说是系统架构、软件架构,或者是最常见的网站架构。本文就来探讨一下互联网时代,技术架构的演进过程及其优缺点,其中若有不足之处,还望指正,促进交流。

为了方便表述,我姑且的把互联网的架构演进过程分为三个时代:单机时代、集群时代和分布式时代。三个时代并非按照历史时间顺序排列,更多的是由团队或产品所处的时期来决定。

单机时代

互联网早期,好比杭研某个产品团队初创之时,资源有限,人力不足,为了快速开发一个产品,或上线一个网站,单机往往是一个不错的选择,此时会将应用程序、文件服务、数据库服务等资源集中在一台 Server 上。其中应用程序通常整体打包和部署,具体格式依赖于应用的语言和框架,例如 Java 的 WAR 文件、Rails 的目录文件,此种架构通常称为单体架构。

单体架构

其系统架构图往往长这个样子:

技术分享图片

 

 

图-1: 单机时代-ALL IN ONE

优点:如上文所述,简单快速,易于开发,易于测试,易于部署
缺点:也非常显著,只适合早期项目,变大后不易维护,且存在单点,升级需要停服

分层架构

明眼的人很快发现,此时的应用程序架构显得杂乱无章,这在早期的 Web 开发中可能存在,比如使用 JSP+JDBC,ASP+ADO,但这显然不是一个友好的标准架构,于是分层架构应运而生,分层架构如下图所示,一般分为表现层(presentation)、业务层(business)、持久层(persistence)和数据库(database)。这其实也是最常见的 MVC 架构了。

 

 

技术分享图片

 

图-2: 单机时代-软件架构-分层架构

改造之后的系统架构图如下:

技术分享图片

 

图-3: 单机时代-分层架构

  • 优点:结构简单,分工明确,分层测试,如果你不知道用什么软件架构时,推荐用它

  • 缺点:扩展性差,迭代开发效率低,有时候层次过多导致流程复杂
    数据分离

添加了分层架构,应用上好看点了,团队的开发效率有了一定的提升。此时业务量进一步增大,并且有了一定的用户规模,逐渐发现一台主机上应用和数据资源争夺的非常厉害。因为每种服对硬件资源的要求是不同的,应用服务器需要更快的CPU,文件服务器需要更大的硬盘,数据库服务器需要更大的内存和硬盘,于是决定把应用和数据服务分离,形成了如下架构:

 

技术分享图片

 

图-4: 单机时代-数据分离

  • 优点:资源分散,提高不同服务对硬件的利用率,方便维护

  • 缺点:增加了资源消耗和网络开销,同时还存在单点

缓存登场

产品有了一定的口碑,用户量持续增长,访问开始频繁,想提升访问速度,缓存必不可少,闪亮登场。

技术分享图片

 

图-5: 单机时代-缓存登场

服务端缓存又可以分为本地缓存和远程缓存,各有优劣,本地缓存访问速度快,但数据量有限,而且后续集群化不方便共享;远程缓存可以共享,可以集群,容量不受限制,但要注意缓存更新的问题。

  • 优点:简单有效,减少对 DB 的查询

  • 缺点:增加逻辑判断,不适合存储大对象,此架构同样有单点

读写分离

市场反响不错,业务也在持续增长,但性能又有所下降,分析整个架构,发现数据库读写非常频繁,甚至有些业务,读大于写,单台数据库服务器又成了瓶颈,此时就可以尝试做读写分离和主从复制了。

技术分享图片

图-6: 单机时代-读写分离

  • 优点:降低数据库单台压力,从机的数量可以灵活变更

  • 缺点:架构开始变得复杂,维护难度加大

自此,单机时代的架构已然成型,“麻雀虽小五脏俱全”,初期已经能很好的支撑业务的运转。但随着业务的增长,各个模块还是可能出现瓶颈。而单机时代最大的问题,就是整个架构都存在单点,这个问题将在集群时代一一解决。

集群时代

单机时代,做了不少措施来缓解数据库层的压力,包括服务器分离、引入缓存、数据分离等,但随着访问量的猛增,对高可用的要求越来越高,减轻应用层压力、解决单点问题是当务之急,这就是集群时代需要做的事情。

负载均衡

代码是架构的基础,但前期改造代码的工作量较大,如果人员变动频繁,那风险就更高了,所以提高服务器性能,常用的手段还是先将应用集群化,做负载均衡。

技术分享图片

 

图-7: 集群时代-负载均衡

  • 优点:去除应用层单点,可用性得到保证,性能有所提高

  • 缺点:这时要注意应用之间的一致性问题,比如对缓存的访问,对Session的存储

 

 

动静分离

 

希望进一步降低应用服务器的压力,可以采用动静分离技术。

动静分离是让动态网站里的动态网页,根据一定规则把不变的资源和经常变的资源区分开来,动静资源做好了拆分以后,我们还可以根据静态资源的特点将其做缓存操作,以加快响应速度。

在杭研内部,常用做法还会将前后端分离,后端应用提供 API,根据前端的请求进行处理,并将处理结果通过JSON格式返回至前端

技术分享图片

 

图-8: 集群时代-动静分离

  • 优点:减轻应用服务器压力,缓存静态文件,加快响应速度,前后端分离,开发可以并行。

  • 缺点:静态文件缓存更新失效问题,前后端沟通成本提高

CDN 加速

内容分发网络(Content Delivery Network),简称 CDN),可以进一步加快网站相应,其原理是将源内容同步到全国各边缘节点,配合精准的调度系统,将用户的请求分配至最适合他的节点,使用户可以以最快的速度取得他所需的内容。

技术分享图片

 

图-9: 集群时代-CDN 加速

  • 优点:解决网络带宽小、用户访问量大、网点分布不均等问题,提高用户访问的响应速度,减轻应用负载压力。

  • 缺点:显然成本上去了,CDN服务一般是按流量计费,同时也存在静态文件缓存更新失效问题。

冗余集群

以上一个中型网站架构基本成型。当中型网站继续向大型网站演进,最终的目标是要保证“三高”:高并发、高性能、高可用。以上架构基本可以满足性能需求,接下来更多的是关注“高可用”,确保“无单点”。

此时,就要对关键的服务,做冗余集群负载。

理想情况下,我们将以下服务/应用都集群化:

  • 数据库服务集群

  • 文件服务集群

  • 缓存服务集群

  • 应用服务集群

  • 负载均衡调度器集群

  • 静态内容服务集群

  • CDN服务器集群

技术分享图片

 

图-10: 集群时代-冗余集群

  • 优点:去单点,高可用

  • 缺点:数据有状态问题、数据一致性问题,资源成本、人力维护成本都上去了

到此为止,一个大型网站的架构也基本成型了,能“加机器”的地方都加完了,是不是就终结?当然不是!伴随着 DT/分布式 时代的到来,大流量和大数据的场景的出现,对应用提出了更高的要求,接下来就需要对应用程序开刀了。

分布式时代

应用拆分

在前面,我们只是把应用程序做了分层架构,在创业初期或产品前期还是一个不错的选择。虽然应用也做了集群和负载均衡,但应用架构层面还是“集中式”的。随着业务越来越复杂,网站的功能越来越多,应用拆分势在必行了。

  • 优点:应用解耦,分拆团队负责,分而治之

  • 缺点:架构变复杂

应用拆分之后,还伴随着一个相互依赖、公共模块的问题,特别是依赖于相同的逻辑或功能代码。这时就可以考虑将这些共用的服务提取出来,独立部署,统一治理,提高重用度,这就是面向服务的架构(service-oriented architecture,缩写 SOA)了。

消息队列

应用拆分、服务独立部署之后,还是会出现一些通信或依赖问题,这时就可以引入消息队列,提高吞吐量。

  • 优点:异步、解耦,提高吞吐量

  • 缺点:消息消费延迟等问题

数据分库

应用拆分之后,DB分库理所当然,否则多个应用连接在单个数据库上,连接数、QPS、TPS、I/O处理能力都非常有限。

  • 优点:DB分压,降低耦合

  • 缺点:数据访问模块冗余、复杂

提到分库,不少人会想到分表,这一块我并未实践过,不好下笔。但想来会引入更复杂的数据架构和数据一致性问题,而且市面身上成熟开源的分库分表方案并没有,保不准又是一个深坑。拆或不拆,也是一个值得思考的问题。

微服务架构

微服务架构(microservices architecture)一度成为热点,在文章、博客、大会演讲上经常被提及。微服务并不是凭空出现,有人说,它是面向服务的架构(SOA)的升级,在此之前,还有诸如集中式架构、分布式的架构等。这里借用一副抽象的图来描述下常见的几种架构:

图-11: 分布式时代-微服务架构-抽象对比

微服务架构由多个微小服务构成,每个服务就是一个独立的可部署单元或组件,它们是分布式的,相互解耦的,通过轻量级远程通信协议(比如REST)来交互,每个服务可以使用不同的数据库,而且是语言无关性的。它的特征是彼此独立、微小、轻量、松耦合,又能方便的组合和重构,犹如《超能陆战队》中的微型机器人,个体简单,但组合起来威力强大。

技术分享图片

图-12: 分布式时代-微服务架构

  • 优点:扩展性好,服务之间耦合性低,服务间相互独立,容易部署,易于开发,方便测试每一个服务

  • 缺点:容易过度关注服务的大小,可能拆分的很细,导致系统依赖于大量的微服务,而服务之间的相互通信也会变得复杂,系统集成复杂度增加,很难实现原子性操作。

微服务之所以这么火,另一个原因是因为 Docker 的出现,它让微服务有一个非常完美的运行环境,Docker 的独立性和细粒度非常匹配微服务的理念,Docker的优秀性能和丰富的管理工具,让大家对微服务有了一定的信息,概括来说 Docker 有如下四点适合微服务:

  • 独立性:一个容器就是一个完整的执行环境,不依赖外部任何的东西。

  • 细粒度:一台物理机器可以同时运行成百上千个容器。其计算粒度足够的小。

  • 快速创建和销毁:容器可以在秒级进行创建和销毁,非常适合服务的快速构建和重组。

  • 完善的管理工具:数量众多的容器编排管理工具,能够快速的实现服务的组合和调度。

当然,好的架构和技术,要应用于实践、让用户认可才行,这就需要在微服务架构和 Docker 技术之上有丰富的场景化应用。网易蜂巢也在积极探索微服务架构和容器云平台的场景化服务,欢迎一起来实践落地。

至此,架构变迁的三个时代介绍完成。总的来说架构不是一成不变的,时间不停,进步不止,人如此,架构依然。

互联网时代的变迁

互联网时代是站在人类历史的高度和全球的视野,不仅仅仅是用中国人的视角去看,而是用一双客观而智慧的眼睛在看这个事实。镜头中那些互联网的缔造者们,我们走近他们,来到他们的办公室,看到了他们的机器,明白了当... 查看详情

2018走出架构误区

...大咖了,更多人的头衔从程序员贴上了架构师标签。而在互联网如此火的今天,在这样一 查看详情

我眼中的软件项目实施

随着互联网+时代的到来,相信大家对IT软件已经不再陌生,尤其是企、事业用户,会涉及到很多大型的数字办公信息系统,而这些软件系统项目的实施,需要职业的实施团队来完成。通俗来讲,软件开发将开发出相应的软件,解... 查看详情

我眼中的海尔:一个足以掀起物联网风暴的有机生命体

“物联网”这一概念最早在2000年于美国提出,它是在“互联网概念”的基础上,将其用户端延伸和扩展到任何物品与物品之间,进行信息交换和通信的一种网络概念。时下,它正与大数据、人工智能等概念一同盛行于我国科技... 查看详情

一文遍历大数据架构变迁史

...总结了数据架构知识、BI知识,以及分享给大家一些产业互联网实施经验。本文是系列文章中的第三篇。在前面两篇“关于数字化转型的几个见解”、“唯一性定理中的数据中台”提到了数据中台发展问题。比如概念发展太快,... 查看详情

优化篇-“移动端”图片上传架构的变迁

做互联网应用少不了图片的支撑,图片的上传、浏览速度很大程度上决定着用户的体验,甚至用户去留,就因为其重要,所以,在任何时候,图片的架构和优化都在进行,不敢丝毫放松。在以后几个章节,会从后端图片存储、前... 查看详情

这些年经历的技术变迁与沉浮

...在我进入程序猿这个职业时,主流的企业应用开发还在C/S时代末期,而B/S架构方 查看详情

我眼中的架构设计

我眼中的架构设计1.架构与设计2.没有最好,只有最适合3.架构设计!=设计模式4.设计思维的养成5.事例实践5.1.需求分析5.2.规范与约束5.3.细化与评估5.4.技术选型5.5.框架搭建5.6.推进与支持6.架构设计对我的影响1.架构与设计... 查看详情

javaweb编年史(黄金时代)

从JavaWeb编年史的远古时代,一直到白银时代,我们见证了JavaWeb开发模式的大致变迁。说白了,就是不断解耦合的过程。接下来我们来聊聊项目架构的演变,之所以我把它划到了JavaWeb编年史(黄金时代),是因为在早期的JavaWeb... 查看详情

云原生数据库如何打造业务弹性

...,业务分析等方面详细介绍POLARDB,及如何利用POLARDB设计互联网创新型应用的数据库架构。云计算带来了业务弹性上的极大优势,阿里云数据库高级产品专家时慢从应用架构的变迁,客户实战案例,业务分析等方面详细介绍POLARDB... 查看详情

csdn日报20170509——《互联网时代架构师的职责与思考》

【程序人生】互联网时代架构师的职责与思考作者:木小鱼在当下的互联网时代,架构师是互联网行业的热点关键词,人云亦云者居多,那互联网架构师到底是做什么的,如何来评价互联网架构师的优劣呢?点击阅读全文【Androi... 查看详情

图解:传统架构到分布式服务化架构的架构演进

前言从计算机在中国进入,到互联网时代再到现在的移动互联网时代和正在向我们走来的大数据时代和AI时代,项目架构也随着时代的改变在不断的演化升级,从单一应用架构到现在的分布式服务化架构,经历了很大的发展和改... 查看详情

互联网+时代,共同建造云安全架构互联生态体系

在互联网+时代,首先企业公有云、私有云的应用,云化趋势迫使形势越来越复杂。防范的难度也随之叠加。再一个是攻防时间严重失衡,当黑客入侵的周期非常短,74%的攻击可以在一天内破译,而检测以及修复漏洞我们需要几... 查看详情

图解:在资深架构师眼中的架构应该是怎样的?

我对架构定义的理解大概在7~8年前,我曾经有一个美国对口的架构师导师,他对我讲架构其实是发现利益相关者(stakeholder),然后解决他们的关注点(concerns),后来我读到一本书《软件系统架构:使用视点和视角与利益相关者... 查看详情

我眼中citrix在云时代的价值与位置----我的封笔之作

注:文中的很多思想来自于AlanHuang,特此鸣谢。WhyCloud?传统在刚工作那会,无论是自己所在公司还是国内的企业都还是在上各种业务系统阶段,从最基础的数据库,中间件,活动目录,邮件系统到大一些公司上的SAP,CRM系统,... 查看详情

架构师眼中的高并发架构

前言 出处:https://my.oschina.net/u/3772106/blog/1793561高并发经常会发生在有大活跃用户量,用户高聚集的业务场景中,如:秒杀活动,定时领取红包等。 为了让业务可以流畅的运行并且给用户一个好的交互体验,我们需要根据... 查看详情

架构师眼中的高并发架构(代码片段)

摘要:以架构师的眼光来讲述高并发架构前言高并发经常会发生在有大活跃用户量,用户高聚集的业务场景中,如:秒杀活动,定时领取红包等。为了让业务可以流畅的运行并且给用户一个好的交互体验,我们需要根据业务场景... 查看详情

清华大学air院长张亚勤:智能时代计算架构将走向分布式边缘计算

2021年世界互联网大会乌镇峰会期间,清华大学智能产业研究院(AIR)院长张亚勤接受新浪科技采访时指出,全球计算产业在经历了大型机时代的完全集中式架构,PC时代的完全分布式架构,以及移动互联网... 查看详情