大型网站技术架构演化

youcong youcong     2023-03-09     283

关键词:

一、大型网站软件系统的特点

1.高并发、大流量

a.什么是高并发?

高并发是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理多个请求。

b.高并发的衡量指标有哪些?

(1)响应时间:系统对请求做出响应。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间。

(2)吞吐量:单位时间内处理的请求数量。

(3)QPS:每秒响应请求数。在互联网领域,这个指标和吞吐量区分的不那么明显。

(4)并发用户数:同时承载正常使用系统功能的用户数量。例如一个通讯系统,在线量一定程度上代表系统的并发用户数,比如腾讯QQ。

c.什么是大流量

大流量这个词,顾名思义表示很多流量,这个很多可以用一千万,一亿或者百亿等来衡量。

以流量来说,这个词有比较多的含义,如:

(1)它可以表示手机无线网数据;

(2)网店或网站的访问量;

(3)流体通过量,如水流量等;

在这里主要指网站的流量(包含网站访问量)。

d.那么网站流量指标有哪些呢

主要指标包括:

(1)独立访问者数量;

(2)重复访问者数量;

(3)页面浏览数;

(4)每个访问者的页面浏览数;

(5)用户在网站的停留时间;

(6)用户来源网站(又叫”引导网站”);

(7)用户所使用的搜索引擎及其关键字;

2.高可用:系统需要不间断提供服务

a.什么是高可用

高可用是分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计减少系统不能提供正常服务的时间。

假设系统一直能够提供服务,我们说系统的可用性是100%。

如果系统每运行100个时间单位,会有1个时间单位无法提供服务,系统的年停机时间为8.76个小时。

b.如何保障系统的高可用

我们都知道,单点是系统高可用的大敌,应该尽量在系统设计的过程中避免单点。方法论上,高可用保证的原则是“集群化”,或者叫“冗余”:只有一个单点挂了服务会受影响,如果有冗余备份,挂了还有其它backup能够顶上。

那么什么是单点呢?

你可以理解为所有的服务都在一个服务器上。

为什么要避免单点?

假定所有的服务在一个服务器上,如果该服务器因为某种原因挂掉了,那么所有的服务都会收到影响,从而会增长系统不能提供正常服务的时间。

3.海量数据(又称“大数据”)

什么是是海量数据?海量数据又称大数据。对于大数据,研究机构给出了这样的定义:大数据是需要新处理模式才能具有更强的决策力、洞察力和流程化能力的海量、高增长率和多样化的信息资产。

从技术上看,大数据与云计算的关系就像一昧硬币的正反面。大数据必然无法用单台计算机进行处理,必须采用分布式架构。其特色在于可对海量数据进行分布式数据挖掘,但必须依托云计算的分布式处理、分布式数据库以及云存储、虚拟化技术。

大数据的特点

(1)数据体量大,从TB级跃升到PB级别。

(2)数据类型繁多,比如网络日志、视频、图片、地理位置等。

(3)处理速度快。

(4)数据价值大。

4.用户分布广泛,网络情况复杂

许多大型互联网都是为全球用户提供服务的,用户分布范围广,各地网络情况千差万别。在国内,还有各个运营商网络互通难的问题。
以在我老家的时候,联通的网络不好,移动的网络好,导致使用联通的用户使用软件受制于网络信号差而无法使用。

5.安全环境恶劣

由于互联网的开放性,使得互联网站更容易受到攻击,大型网站几乎每天都会被黑客攻击。以GitHub为例,无时无刻不在遭受到攻击。

6.需求快速变更,发布频繁

和传统软件的版本发布频率不一样,互联网产品为了快速适应市场,满足用户需求,其产品发布频率是极高的。

7.渐进式发展:几乎所有的大网站都是从一个小网站开始的

以最早期的淘宝来说,也是从单体应用来的。据说早期的架构是Linux+Apache+MySQL+PHP(LAMP)。
FaceBook是伯克扎克同学在哈佛大学的宿舍里开发的;Google的第一台服务器部署在斯坦福大学的实验室;阿里巴巴则是在马云家的客厅里诞生。
好的互联网产品都是慢慢运营出来的,不是一开始就开发好的,这也正好与网站架构的发展演化过程对应。

二、大型网站架构演化发展历程

1.初始阶段的网络架构:应用程序、数据库、文件等所有资源都在一台服务器上(单体应用)

技术图片

2.应用服务和数据库分离:网站使用三台服务器:应用服务器、文件服务器、数据库服务器

技术图片

一般情况下有这么几种形式?

(1)nginx+tomcat+ftp+mysql/oracle;

(2)nginx+tomcat+vsftp+mysql/oracle;

(3)apache+tomcat+ftp+mysql/oracle;

(4)nginx+tomcat;

(5)docker容器实践思路(又称容器化);

当然了,上述列出的仅仅是冰山一角,有部分公司拥有自己研发的DB或者应用服务器。

3.使用缓存改善网站性能:使用缓存后数据库访问压力得到有效缓解

技术图片

a.那么在什么样的情况应该使用缓存?

(1)经常变化的数据,但是不需要立刻进行持久化的;

(2)经常被大量读取,很少进行更新操作;

(3)大量的数据库IO操作;

(4)通用的页面,如JS、CSS、图片等;

(5) 统计和计算需要暂存的信息,需要加快计算的;

b.Java常用的缓存框架有哪些呢?

一般情况下,用Redis或者Memcache,当然了,有的时候也会用ehcache,关于Java常用的缓存框架代码示例和介绍可参考该篇文章:https://www.cnblogs.com/chinway/p/5534636.html

4.使用服务器集群改善网站的并发处理能力:通过负载均衡调度器将请求分配到集群中的服务器上

技术图片

这种方式又可以称作“中心化”,所有的请求全部经过Nginx,由Nginx分发请求到不同的应用服务器上面(根据权重进行分配)。

5.数据库读写分离:应用服务器在写数据的时候访问主数据库,主数据通过主从复制机制将数据更新同步到从数据库,这样当服务器读数据的时候就可以通过从数据库了

技术图片

6.使用反向代理和CDN加速网络响应

关于CDN可以参考我的这篇文章:谈谈CDN

不过觉得还是要贴一下图,这样会有一个感性的认识。

技术图片

什么是反向代理呢?

反向代理是指以代理服务器来接收internet上的连接请求,然后将请求转发给内部网络上的服务器,并将从服务器上得到的结果返回给internet上请求连接的客户端,此时代理服务器对外就表现为一个反向代理服务器。

7.使用分布式文件系统和分布式数据库系统

技术图片

分布式文件系统有哪些?

主要有MFS、Ceph、GlusterFS、Lustre等

关于它们的区别可参考:

分布式文件系统MFS、Ceph、GlusterFS、Lustre的对比

8.使用NOSQL和搜索引擎

技术图片

应用比较多的NoSQL,比如Memcache、Redis、MongoDB等。

搜索引擎,以solr和elasticsearch比较多。

9.业务拆分

关于业务拆分可参考我的这篇博文业务拆分的思考

10.分布式服务

可以去看看分布式服务架构这本书或是去看看国外相关专业人士的论文或文章。

分布式服务架构:原理、设计与实战电子书下载地址为:https://pan.baidu.com/s/1hK3vlIHX0SgbD4NNKx_zTg

三、大型网站演化的价值观

(1)大型网站架构核心价值是随网站所需灵活应付;

(2)驱动网站技术发展的主要力量是网站发展业务;

大型网站的核心价值不是从无到有二搭建一个大型网站,而是能够伴随小型网站业务逐步发展,慢慢演化成一个大型网站,网站的架构选择尽量满足网站用户增加需求。

四、网站架构设计误区

误区如下所示:

(1)一昧追随大公司方案;

(2)为了技术而技术;

(3)企图用技术解决所有问题;

参考资料如下:

什么是高并发:https://blog.csdn.net/DreamWeaver_zhou/article/details/78587580

什么是高可用:http://www.cnblogs.com/shizhiyi/p/7750530.html

什么是海量数据?它具有哪些特征?:http://www.znjj.tv/news/3322.html

在什么情况使用Java缓存:https://flychao88.iteye.com/blog/1532335

8张图读懂大型网站技术架构:https://github.com/Snailclimb/JavaGuide/blob/master/%E6%9E%B6%E6%9E%84/8%20%E5%BC%A0%E5%9B%BE%E8%AF%BB%E6%87%82%E5%A4%A7%E5%9E%8B%E7%BD%91%E7%AB%99%E6%8A%80%E6%9C%AF%E6%9E%B6%E6%9E%84.md

《大型网站技术架构:核心原理与案例分析》第一章概述第一节大型网站架构演化

《大型网站技术架构》读书笔记一:大型网站架构演化

一、大型网站系统特点  (1)高并发、大流量:PV量巨大  (2)高可用:7*24小时不间断服务  (3)海量数据:文件数目分分钟xxTB  (4)用户分布广泛,网络情况复杂:网络运营商  (5)安全环境恶劣:黑客的攻击... 查看详情

大型网站技术架构——架构演化发展历程

前言:本系列博客,属于看书笔记。 查看详情

大型网站技术架构--大型网站架构演化(转)

...了有一本书,就应该有所收获,有所总结,最近把《大型网站技术架构》一书给看完了,给人的印象实在深刻,再加上之前也搞过书本上讲的反向代理和负载均衡以及session独立存储和缓存,因此书本看起来还是挺通俗易懂的,... 查看详情

大型网站架构演化

作者:李小翀链接:https://www.zhihu.com/question/22764869/answer/31277656来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。分布式架构的演进系统架构演化历程-初始阶段架构 初始阶段的小型系统... 查看详情

大型网站架构演化概览

1.大型网站的特点:  相比传统企业应用系统,大型互联网应用系统有以下特点:高并发、大流量:需要面对高并发用户,大流量访问。高可用:系统需要7*24小时不间断服务。海量数据:需要储存、管理海量数据,需要使用大... 查看详情

网站架构演化

 http://www.ha97.com/5095.html 说到大型网站,就得先说大型网站的特点:高并发、大流量、高可用、海量数据等。下面就说说大型网站的架构演化过程吧。 1.初始阶段的网站架构          ... 查看详情

大型网站架构演化

转载自:http://www.cnblogs.com/GmrBrian/p/3777076.html一、大型网站系统特点  (1)高并发、大流量:PV量巨大  (2)高可用:7*24小时不间断服务  (3)海量数据:文件数目分分钟xxTB  ÿ... 查看详情

大型网站系统架构的演化

前言 一个成熟的大型网站(如淘宝、京东等)的系统架构并不是开始设计就具备完整的高性能、高可用、安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式、技术架构、设计... 查看详情

大型网站系统架构的演化(转)

前言   一个成熟的大型网站(如淘宝、京东等)的系统架构并不是开始设计就具备完整的高性能、高可用、安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式、技术架... 查看详情

一大型网站架构演化

1.1大型网站软件系统的特点  大型网站应用系统有以下特点    高并发,大流量:需要面对高并发用户,大流量访问。谷歌日均PV数35亿,日均IP访问数3亿;腾讯QQ的最大在线用户数1.4亿(2011年数据)。    高可用:... 查看详情

大型网站技术架构-入门梳理

罗列了大型网站架构涉及到的概念,附上了简单说明前言本文是对《大型网站架构设计》(李智慧著)一书的梳理,类似文字版的“思维导图”全文主要围绕“性能,可用性,伸缩性,扩展性,安全”这五个要素性能,可用性,伸... 查看详情

2.大型网站架构演化的价值观

这个世界没有哪个网站从诞生起就是大型网站;也没有哪个网站第一次发布就拥有庞大的用户,高并发的访问,海量的数据;大型网站都是从小型网站发展而来。网站的价值在于它能为用户提供什么价值,在... 查看详情

一大型网站架构的演化过程

什么样的网站才算是大型网站?大型网站的特点:高并发、大流量:需要面对高并发用户,大流量访问。高可用:需要7x24小时不间断服务。海量数据:数据需要存储、管理,需要大量服务器。用户分步... 查看详情

大型网站架构演化发展历程

初始阶段的网站小型网站没有多少人访问,一个机器即可:应用服务,文件服务,数据库服务。三个服务全部在一起。应用服务与数据服务分离随着用户量的增加,一个服务器已不能满足需求。这个时候将服务拆分,分别安装在... 查看详情

大型站点系统架构的演化

...nblogs.com/leefreeman/p/3993449.html前言   一个成熟的大型站点(如淘宝、京东等)的系统架构并非開始设计就具备完整的高性能、高可用、安全等特性。它总是随着用户量的添加。业务功能的扩展逐渐演变完好的。在这个过... 查看详情

1.大型网站架构演化

如果把上世纪90年代初CERN正式发布Web标准和第一个Web服务的岀现当做互联网站的开始,那么互联网站的发展只经历了短短20多年的时间。在20多年的时间里,互联网的世界发生了巨大变化,今天,全球有近一半的人口使... 查看详情

《大型网站技术架构》学习笔记

第一章:大型网站的演化1.1大型网站软件系统的特点  高并发,大流量  高可用:7*24小时不间断服务  海量数据  用户分布广泛,网络情况复杂  安全环境恶劣:大型网站几乎每天都被攻击  需求快速变更,发布频繁:... 查看详情

大型网站系统架构的演化

前言   一个成熟的大型网站(如淘宝、京东等)的系统架构并不是开始设计就具备完整的高性能、高可用、安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式、技术架... 查看详情