云存储(代码片段)

benjaminfee benjaminfee     2023-02-15     574

关键词:

  1. 根据提供给用户的存储结构进行归类,云存储可分为“非可管理型云存储“与”可管理型云存储“

    1. 非可管理性呈现一个可以立即使用的磁盘驱动器,面向普通用户;限定了存储容量和使用方式使用成本低,操作简单
    2. 可管理型则需要对原生虚拟化磁盘进行配置,面向开发人员,将存储空间呈现为原生磁盘,提供给用户进行配置和管理
  2. 云存储设备可以是块存储设备、文件存储设备或者对象存储设备

    1. 块存储设备对于客户端相当于原始存储,可以被分区以创建卷,由操作系统创建和管理文件系统,传输单位是块。

    2. 文件存储设备采用网络附加存储的形式(NAS),NAS维护自己的文件系统,以文件形式提供给客户;

      块存储可以提高更快的传输速度,但客户端有额外开销

      面向文件存储设备通常很慢,但建立链接时客户端开销小

    3. 对象存储兼具块存储高速访问以及文件存储分布式共享特点

      由元数据服务器、存储节点、客户端构成

      元数据服务器MDS:管理文件的存储位置、状态

      存储节点OSD:复制文件数据存储

      客户端:负责对外接口访问

      数据通路(读写)与控制通路(元数据)分离

    云存储系统架构

    1. 从底层到上依次为:数据存储层、数据管理层、数据服务层、用户访问层

技术分享图片

磁盘驱动器接口

磁盘接口对整体性能有直接影响

存储设备主要分为三种:高端、中端、近线

高端:FC(光纤通道)磁盘

应用于关键数据的大容量实时存储

中端:SCSI、SAS(串行连接SCSI)

商业级的关键数据的大容量实时存储

近线:SATA磁盘存储

非关键数据的大容量存储,目的是替代以前的磁带备份

存储架构

 概览

DAS直连存储

直接将存储设备通过总线适配器和电缆(SCSI、FC)直接连接到服务器的架构

DAS依赖于服务器,本身不带有存储操作系统

数据和操作系统未分离

只能被一台计算机连接,无法实现共享

NAS附网存储

以数据为中心的数据存储模式

不同于das附着于固定的服务器,它完全独立于网络中的主服务器,并且允许客户机于存储设备间直接进行数据访问

NAS是可以直接连接到网络上向用户提供文件级服务的存储设备

一个NAS包括:处理器、内存、网卡、文件服务管理模块、用于存储的硬盘驱动器

以文件I/O方式进行数据传输,基于现有的LAN构建,按照TCP/IP等协议通信

SAN存储区域网络

指的是通过一个专用的网络把存储设备和TCP/IP局域网上的服务器集群相连接

SAN独立于传统局域网,通过网关设备和局域网相连接,传输速率极高,并且可以跨不同存储设备和服务器以及不同网络与不同平台

SAN存储架构以FC光纤网络位基础,实现存储设备共享,突破距离和容量限制

数据传输方式为块传输,基于专用的光纤通道网络构建

DFS分布式文件系统

文件系统从宏观可分为本地文件系统(LFS)和分布式文件系统(DFS)

 数据保护技术

  1. 备份技术

    分为离线备份与在线备份

  2. 镜像技术

  3. 快照技术

  4. 持续数据保护

    捕捉一切文件级或数据块级别的数据写,改动,可以恢复到任意时间点。

 数据备份

作为存储系统中最重要的应用之一,是保护数据的关键手段

备份策略

完全备份

拷贝整个文件系统到备份设备

缺点:存在大量重复数据、数据量大、备份时间长

增量备份

在完全备份的基础上仅仅拷贝新生或者修改的文件

不存在重复数据、节省空间,但恢复数据会较麻烦

差量备份

拷贝所有新数据,新数据指的是“上一次完全备份后产生或更新的”

与完全备份比备份时间短并节省空间

与增量备份比,数据恢复方便

增量与差量区别

增量备份记录上一次完全备份或增量备份以来的更新数据

差量备份记录上一次完全备份以来的所有更新数据

硬盘

磁盘片表面称为盘面。

磁盘片表面上以磁盘片中心为圆心,不同半径的同心圆称为磁道。

不同磁盘片相同半径的磁道所组成的圆柱称为柱面。

磁盘片被分成许多扇形的区域,每个区域叫一个扇区。

02:阿里云视频存储(代码片段)

1.1VOD(视频点播功能)介绍  1、参考网站 #阿里云官网https://www.aliyun.com/#阿里云视频存储官网https://help.aliyun.com/product/29932.html         111111111111111111111111111111111111 查看详情

云存储实现之简单的文件存储(代码片段)

云存储实现之简单的文件存储1.获取上传页面2.选取本地文件,form形式上传文件3.云端接收文件流,写入本地存储4.云端更新文件元信息集合文件元信息查询接口实现//获取文件元信息集合funcGetMetaHandler(whttp.ResponseWriter,r*htt... 查看详情

腾讯云对象存储使用(代码片段)

快速使用1.注册腾讯云2.进入对象存储-->存储桶列表-->创建存储桶3.查看右上角sdk文档,根据文档走下来1.安装sdk手动安装:直接拷贝js内容到项目目录utils下命名cos-wx-sdk-v5.jsnpm安装:npminstallcos-wx-sdk-v52.小程序中引入varCOS=requir... 查看详情

云原生存储系列文章:云原生应用的基石(代码片段)

https://developer.aliyun.com/article/764862简介: 存储服务支撑了应用的状态、数据的持久化,是计算机系统中的重要组成部分,也是所有应用得以运行的基础,其重要性不言而喻。在存储服务演进过程中,每一种业务类型、新技术... 查看详情

『云原生·docker』docker存储(代码片段)

系列文章目录本系列主要分为以下六大部分,正在更新中,尽请期待!『云原生·生之门』『云原生·前置知识』『云原生·Docker』『云原生·Kubernetes』『云原生·KubeSphere』『云原生·DevOps』🚩点击关注本专栏提示:已经... 查看详情

使用阿里云oss上传文件(代码片段)

本文介绍如何利用JavaAPI操作阿里云OSS对象存储。1.控制台操作首先介绍一下阿里云OSS对象存储的一些基本概念。1.1进入对象存储界面登录阿里云账号,进入对象存储界面,如图所示。进入后如图所示。1.2OSS基本概念这里不过多介... 查看详情

云存储项目(代码片段)

Cloud_Storage云存储项目项目介绍:客户端功能介绍:在客户端下生成文件scandir在文件client_util.hpp文件第235行中#define定义可自行修改还生成文件data.conf在文件client_util.hpp文件第236行中#define定义可自行修改scandir为监控文件&#x... 查看详情

云存储项目(代码片段)

Cloud_Storage云存储项目项目介绍:客户端功能介绍:在客户端下生成文件scandir在文件client_util.hpp文件第235行中#define定义可自行修改还生成文件data.conf在文件client_util.hpp文件第236行中#define定义可自行修改scandir为监控文件&#x... 查看详情

接入阿里云oss--公有云分布式存储(代码片段)

Ceph搭建基于私有云的分布式存储部署简单开源客户端支持多语言可靠性高性能高分布式,可扩展性强###接入阿里云OSS–公有云分布式存储选择阿里云OSS的原因对象存储服务可靠性:服务可靠性,数据持久性安全性ÿ... 查看详情

物联网云的存储与应用架构——architectingiotcloud(代码片段)

物联网云的存储与应用架构存储框架数据类型数据的存储系统-数据库SQL-传统的关系型数据库NoSQL-新型数据库MongoDBCassandraRedisinfluxDBElasticsearchCAP理论数据仓库DataWarehouse数据湖DataLakeETL/ELT数据湖面临的挑战数据湖的文件系统数据湖... 查看详情

matlab点云处理:点云存储对象类型(pcviewset|pointcloud)(代码片段)

文章目录1点云存储对象类型2pointCloud2.1描述2.2语法3Properties(属性)3.1Location3.2Color3.3Normal3.4Intensity3.5Count3.6XLimits3.7YLimits3.8ZLimits4ObjectFunctions(对象函数)1点云存储对象类型MATLAB点云工具箱提供了 查看详情

备份本地库到远端ucloud云存储(代码片段)

备份本地mysql数据到Ucloud存储,支持STANDARD,IA,ARCHIVE标准存储,低频存储(IA)或者冷存储(ARCHIVE)这3中存储类型#注意如果,欲使用低频存储(IA)或者冷存储(ARCHIVE),请在命令参数storageclass中指定,支持三种值:STANDARD,IA,ARCHIVE#注意如果... 查看详情

前端探索云存储用得好,静态资源没烦恼(代码片段)

...接口测试进一步优化总结本文主要介绍了,用COS和CDN存储静态资源,以及腾讯云API的使用。COS对象存储(CloudObjectStorage,COS)是腾讯云提供的一种存储海量文件的分布式存储服务,具有高扩展性、低成本、 查看详情

text无法将大型文件导出并上传到云存储(代码片段)

查看详情

vue.js+云存储(实现图片上传功能)(代码片段)

利用vue.js+element-ui实现云存储上传图片功能文章目录前言一、对象存储二、配置腾讯云Cos1.引入库第一步拥有腾讯云的开发者账号实名认证三、新建文件上传组件新建上传图片组件src/components/ImageUpload/index.vuedetail详情页引入构... 查看详情

阿里云对象存储oss(代码片段)

依赖<dependency><groupId>com.aliyun.oss</groupId><artifactId>aliyun-sdk-oss</artifactId><version>3.10.2</version></dependency>属性配置spring:cloud:alibaba:acc 查看详情

阿里云对象存储oss(代码片段)

依赖<dependency><groupId>com.aliyun.oss</groupId><artifactId>aliyun-sdk-oss</artifactId><version>3.10.2</version></dependency>属性配置spring:cloud:alibaba:acc 查看详情

java实现操作阿里云oss云存储详解,含配置和完整代码(代码片段)

最近使用java代码操作阿里云存储,分享给大家目录1.OSS云存储配置2.获取accessKeyId和accessKeySecret3.编写SpringBoot代码3.1pom.xml文件引入sdk3.2编写代码4.运行效果1.OSS云存储配置登录阿里云后,找到OSS云存储,地址为:阿... 查看详情