海康威视视频云存储解决处理方案报告

《海康威视视频云存储解决处理方案报告》由会员分享，可在线阅读，更多相关《海康威视视频云存储解决处理方案报告（89页珍藏版）》请在装配图网上搜索。

1、.海康威视视频云存储解决方案88 / 89.正文目录第 一 章 概述61.1 系统简介61.2 设计原则61.3 设计目标71.4 术语及缩略语解释8 术语解释8 英文/缩略语解释9第 二 章 总体设计132.1 需求说明13 功能性需求说明13 非功能性需求说明142.2 技术路线152.3 逻辑架构162.4 系统特点18 高效灵活的空间管理18 海量数据的快速检索19 持续可靠的数据服务20 高可扩展的应用支撑21 开放透明的兼容系统222.5 应用场景22第 三 章 视频类云存储设计243.1 系统软硬件设计24 软件设计24 硬件设计323.2 系统物理拓扑333.3 系统功能设计3

2、5 视频存储功能35 录像管理功能363.3.3 系统管理功能36 运维管理功能373.4 系统业务流程37 视频存储流程37 视频检索流程38 视频读取流程393.5 系统项目设计40 项目信息收集40 云存储设计流程41 云存储管理服务器设计42 存储容量计算443.6 系统软硬件总参考清单46第 四 章 图片类云存储设计514.1 系统软硬件设计51 软件设计51 硬件设计564.2 系统物理拓扑574.3 系统功能设计59 图片存储功能59 系统管理功能60 运维管理功能604.4 系统业务流程61 图片存储流程61 图片检索流程63 图片下载流程634.5 系统项目设计64 项目信息

3、收集64 云存储设计流程65 云存储管理服务器设计66 存储容量计算684.6 系统软硬件总参考清单69第 五 章 视频、图片混合云存储设计745.1 系统软硬件设计74 软件设计74 硬件设计825.2 系统物理拓扑825.3 系统功能设计84 视频存储功能84 录像管理功能84 图像存储功能84 系统管理功能85 运维管理功能855.4 系统业务流程85 视频业务流程85 图片业务流程855.5 系统项目设计85 项目信息收集85 云存储设计流程86 云存储管理服务器设计87 云存储存储设备设计895.6 系统软硬件总参考清单91第 六 章 存储技术对比分析97 存储技术现状97 存储技术

4、对比分析103第 七 章 附件1077.1 视频云存储容量计算工具1077.2 主要硬件产品介绍107 存储管理服务器107 存储主机108表格目录表1 视频监控云存储与传统集中存储对比表94表2 视频监控云存储与文件云存储对比表96图片目录图1. 云存储逻辑架构图16图2. CVM软件架构25图3. CVS软件架构27图4. CVA软件架构29图5. ASS软件架构31图6. 视频云存储物理结构图34图7. 视频云存储系统功能图35图8. 视频存储流程38图9. 视频检索流程39图10. 视频读取流程40图11. 管理节点双机部署方式43图12. 管理节点集群部署方式44图13. CVM软件

5、架构52图14. CVS软件架构54图15. ASS软件架构55图16. 图片类云存储系统物理结构58图17. 视频云存储系统功能59图18. 图片直存流程62图19. 图片非直存流程63图20. 图片下载流程64图21. 管理节点双机部署方式67图22. 管理节点集群部署方式68图23. CVM软件架构75图24. CVS软件架构77图25. CVA软件架构79图26. ASS软件架构81图27. 视频图片混合云存储物理结构图83图28. 视频云存储系统功能图84图29. 管理节点双机部署方式88图30. 管理节点集群部署方式89图31. CVR直连存储图99图32. 视频云存储拓扑图102

6、第 一 章 概述1.1 系统简介随着视频监控系统规模越来越大,以及高清视频的大规模应用,视频监控系统中需要存储的数据和应用的复杂程度在不断提高,且视频数据需要长时间持续地保存到存储系统中,并要求随时可以调用,对存储系统的可靠性和性能等方面都提出了新的要求。在未来的复杂系统中,数据将呈现爆炸性的海量增长,提供对海量数据的快速存储及检索技术,显得尤为重要,存储系统正在成为视频监控技术未来发展的决定性因素。面对百PB级的海量存储需求,传统的SAN或NAS在容量和性能的扩展上会存在瓶颈。而云存储可以突破这些性能瓶颈,而且可以实现性能与容量的线性扩展,这对于追求高性能、高可用性的企业用户来说是一个新选择

7、。云存储是在云计算cloud computing概念上延伸和发展出来的一个新的概念,是指通过集群应用、网格技术或分布式文件系统等功能,应用存储虚拟化技术将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个系统。所以云存储可以认为是配置了大容量存储设备的一个云计算系统。 依据云存储的技术及功能特点,海康威视公司专门针对大容量视频数据的存储和管理以及满足视频监控领域特殊的应用需求,量身设计了一套海康威视视频云存储系统以下文章中称为海康威视视频云存储。1.2 设计原则视频云存储系统的设计和实施主要遵循技术先进性、应用高效性、开放兼容性等方面的原则。

8、1) 采用前瞻性的存储技术架构采用以云存储为核心的IT技术与安防监控行业特点进行结合,进而针对性开发出具有行业属性的先进视频、图片专有云存储系统。将云存储核心技术如集群化部署、资源虚拟化整合、分布式流数据存储等技术应用到本套云存储系统中。同时充分考虑安防监控行业的发展需要,该套云存储系统需要能够支撑未来大数据处理、智能分析处理等云计算技术的需要,实现云存储系统在安防监控领域的先进性和前瞻性。2) 专注与应用结合的设计方式本套云存储系统是针对安防监控行业内视频数据、图片数据存储而设计的,对视频数据的具体业务应用进行详细的应用分析后,从系统底层的流数据结构的设计一直到上层的应用调度策略设计都必须站

9、在应用的角度考虑存储。云存储系统需要明确自己作为应用的支撑这一深层次的角色定位,而不能再停留在传统存储和通用的文件云存储仅仅是数据存储的这一较低的层次认识。因此专注于视频和图片的应用是本套视频云存储系统的重要设计原则。3) 提供开放和兼容的系统环境云存储系统的开放性和兼容性是需要考虑的重要原则,本套云存储系统要成为业内领先的专业存储系统,就必须要考虑到与标准应用平台的无缝对接和第三方标准存储设备的兼容性问题。本套云存储系统需要对应用平台提供统一的接口,可在不同的行业中与其应用平台进行良好的互动,对用户的应用提供优秀的数据保障。同时对于第三方标准存储设备,云存储系统应该做到良好的兼容性,以保护用

10、户的前期投入提供一个开放、公平的系统环境。1.3 设计目标海康威视视频云存储系统设计的核心目标其一是视频和图片数据在存储方面能够很好的满足用户需求；其二是为用户应用数据提供高效、稳定、快速的服务；其三是系统可以实现便捷、可靠的统一管理及运维。1) 数据存储海康威视视频云存储系统实现百PB级的海量存储,突破传统的SAN或NAS在容量和性能的扩展上存在的瓶颈,实现性能与容量的线性扩展,满足用户对高性能、高可用性的需求。视频云存储系统通过集群智能化部署设计,不同于传统视频存储的部署模式,系统性能全面提升,而且不再存在单机故障及性能瓶颈应用,从而实现高效实用的存储系统。2) 应用服务海康威视视频云存储

11、系统是一套贴合用户需求而设计视频云存储系统,其先天的基因中就融入了面向应用的特质,在不断发展的趋势下这种面向应用的特质会不断地为用户提供高效、灵活、可靠的专业级存储服务。3) 统一管理及运维视频云存储系统具有高效灵活的空间管理能力,通过全系统分层集群的设计将系统的管理资源进行整合,并根据负载均衡算法提供全高效并发处理机制,提高了系统的整体性能。视频云存储系统内的设备和资源的运行情况进行统一监控,以标准的SNMP协议与运维服务器进行数据交互,能够非常便捷的实现系统整体运维。1.4 术语及缩略语解释1.4.1 术语解释云存储：是与云计算同时兴起的一个概念。云存储一般包含两个含义：1云存储是云计算的

12、存储部分,即虚拟化的、易于扩展的存储资源池。用户通过云计算使用存储资源池,但不是所有的云计算的存储部分都是可以分离的。2云存储意味着存储可以作为一种服务,通过网络提供给用户,用户可以通过若干种方式来使用存储。云计算：Cloud Computing是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需提供给计算机和其他设备。双机热备双机容错：就是对于重要的服务,使用两台服务器,互相备份,共同执行同一服务。当一台服务器出现故障时,可以由另一台服务器承担服务任务,从而在不需要人工干预的情况下,自动保证系统能持续提供服务。集群cluster技术：是一种较新的技术,通过集群技术,可以在

13、付出较低成本的情况下获得在性能、可靠性、灵活性方面的相对较高的收益,其任务调度则是集群系统中的核心技术。虚拟化：是指计算元件在虚拟的基础上而不是真实的基础上运行,是一种多设备虚拟整合、虚拟应用的技术；是一种简化了管理,优化资源的解决方案。负载均衡：一种分布式计算机处理技术,用来平衡电脑各部件或大型电脑、服务器各主机的资源使用率。I帧：表示关键帧,可以理解为这一帧画面的完整保留；解码时只需要本帧数据就可以完成。H.264：是MPEG-4 标准所定义的最新,同时也是技术含量最高、代表最新技术水平的视频编码格式之一,H.264最具价值的部分无疑是更高的数据压缩比。720P：是美国电影电视工程师协会S

14、MPTE制定的高等级高清数字电视的格式标准,有效显示格式为1280720,P是Progressive,逐行的意思。1080P：是美国电影电视工程师协会SMPTE制定的高等级高清数字电视的格式标准,有效显示格式为19201080,P是Progressive,逐行的意思。1.4.2 英文/缩略语解释AAFP： Apple公司开发的文件协议APIApplication Programming Interface,称为应用编程接口,就是软件系统不同组成部分衔接的约定。软件的规模日益庞大,常常会需要把复杂的系统划分成小的组成部分,编程接口的设计十分重要。ASSNAsynchronous Storage

15、Service Node第三方存储服务节点ASSAsynchronousStorage Service异构存储软件CCIFSCommonInternetFileSystem通用Internet文件系统在windows主机之间进行网络文件共享,是通过使用微软公司自己的CIFS服务实现的。CVMNCloud Video Manage Node视频云存储管理节点CVSNCloud Video Storage Node视频云存储节点CVMCloud Video Manage视频云存储管理软件CVNCloud Video Net-Snmp视频云存储运维软件CVSCloud Video Storage视频

16、云存储软件CVACloud Video Access视频云存储接入软件FFC协议Fibre Channel提高硬盘协议的传输带宽,侧重于数据的快速、高效、可靠传输,FC光纤通道拥有自己的协议层。FCSAN网络介质为光纤通道,把服务器与存储设备连接起来的存储技术。FTPFileTransferProtocol文件传输协议,使得主机间可以共享文件。GGUIGraphicalUserInterface图形用户接口是指采用图形方式显示的计算机操作用户界面。HHot-Spare,当一个正在使用的磁盘发生故障后,一个空闲、加电并待机的磁盘将马上代替此故障盘,此方法就是热备。HTTPHypertexttra

17、nsferprotocol超文本传输协议是一种详细规定了浏览器和万维网服务器之间互相通信的规则。IIOInput/Output 输入/输出。IPInternet Protocol网络之间互连的协议中文简称为网协,就是为计算机网络相互连接进行通信而设计的协议。IPCIP Camera网络摄像机名称缩写。IPSAN：是在传统IP以太网上架构一个SAN存储网络把服务器与存储设备连接起来的存储技术。IP SAN其实在FC SAN的基础上再进一步,它把SCSI协议完全封装在IP协议之中即iSCSI协议。iSCSI是一种由IBM公司研究开发的,是一个供硬件设备使用的可以在IP协议的上层运行的SCSI指令集

18、。JJPEG JointPhotographicExpertsGroup联合图像专家小组图像压缩标准。MMibs网络中所有可能的被管理对象的集合的数据结构。NNASNetwork Storage Technologies基于标准网络协议实现数据传输。NFSNetworkFileSystem即网络文件系统.网络文件系统允许一个系统在网络上与他人共享目录和文件。PPB数据单位,1PB = 1,024 TB = 1,048,576 GBRRaidRedundant Arrays of Independent Disks,中文为独立冗余磁盘阵列。RTSPRealTimeStreamingProtoco

19、l实时流传输协议,是TCP/IP协议体系中的一个应用层协议。SSANStorage Area Network集中式管理的高速存储网络,由多供应商存储系统、存储管理软件、应用程序服务器和网络硬件组成。SAS是新一代的SCSI技术,和现在流行的SerialATASATA硬盘相同,都是采用串行技术以获得更高的传输速度,并通过缩短连结线改善内部空间等。SNMPSimple Network Management Protocol简单网络管理协议,它是一个标准的用于管理IP网络上结点的协议。SSDSolidStateDrives固态硬盘简称固盘,简单的说就是用固态电子存储芯片阵列而制成的硬盘。TTrap广

20、义的trap即snmp trap,指被管理设备代理上报的陷阱报文,表明设备发生故障或变更的主动通知。TB数据单位,1TB = 1,024 GB = 1,048,576 MBTCPTransmission Control Protocol传输控制协议,是一种面向连接、可靠的、基于字节流的运输层Transport laye通信协议。UUDPUser Data Protocol用户数据报协议是与TCP相对应的协议,它是面向非连接的协议,它不与对方建立连接,而是直接就把数据包发送过去。URLUniformResourceLocator称为网页地址,是因特网上标准的资源的地址。WWEB广泛译作网络、互联

21、网等技术领域。Web Service是一种服务导向架构的技术,通过标准的Web协议提供服务,目的是保证不同平台的应用服务可以互操作。第 二 章 总体设计海康威视视频云存储系统是由海康威视自主研发的一套针对安防监控行业应用的专业级云存储系统。采用软硬件一体化设计,结合先进的集群化技术、虚拟化技术、离散存储技术等,通过流式文件系统对存储资源进行虚拟化和应用化整合,为用户提供高性能、高稳定、高扩展性的数据存储服务。2.1 需求说明2.1.1 功能性需求说明1) 视频功能 要求视频存储系统具备724小时大码流视频录像、快速检索、回放和管理的功能,同时,对于视频的回放,须有相应的优化,比如I帧序列回放等

22、。 检索要求支持对录像按照多种方式检索,如按照类型、标签、时间段等方式。 回放要求按照类型、时间、I帧、正序、倒序、倍数等方式进行回放。 管理要求支持删除、锁定、标注、循环覆盖时间、空间等方式进行管理。2) 图片功能 要求视频存储系统支持图片的高速写入、并发下载、图片压缩、锁定、删除等功能。 下载要求支持按时间段和URL的方式获取图片。 图片压缩要求能支持按照图片尺寸、大小进行压缩。 提供图片直存和非直存两种解决方案,丰富图片存储的多选性。3) 运维管理功能要求支持对系统的运行状态、存储使用情况进行监控,以及对软硬件异常状态报警,便于用户处理。4) 系统管理功能 要求统一服务接口,系统提供的统

23、一的服务接口便于与应用平台进行对接。 要求提供统一的管理界面,通过管理界面能进行存储设备和资源的配置。2.1.2 非功能性需求说明1) 可靠性需求采用视频云存储技术,将网络中大量各种不同类型的存储设备通过应用软件整合起来协同工作,共同对外提供视频数据存储和业务访问。保证单个节点失效时,系统能够通过自动负载将业务调整到其他设备上以满足用户业务的持续性；并且需要能够提供数据的迁移备份,在设备故障无法快速修复时依然能够支持数据的正常读取来满足业务应用的需要。 2) 稳定性需求随着容量和存储设备的增加,如何保证海量数据存储的安全性和可靠性是传统视频存储面临的巨大挑战,要求存储系统具备724小时的不间断

24、写入的能力。在系统运行的过程中,运行压力的持续或加大系统能够通过集群技术、虚拟化技术动态自动调整业务压力,将业务响应的压力进行分散来减少单点压力过大。3) 扩展性需求云存储系统的建设在不同的阶段可能会有不同的容量要求。随着项目的不断扩大、应用的不断加强,容量将会不断扩大。那么云存储系统需要能够提供动态扩展功能,要求对在线系统增加、减少设备时业务不中断。设备一旦融入云存储系统后立即可用作为整体存储资源的一部分进行调用,在扩展存储设备时要求能够支持对接标准第三方存储设备。另外对于系统的扩展性,在动态调整具体监控区域的存储资源时要求能够做到良好的灵活性,即不但能够增加存储资源的配给,也能够减少存储资

25、源的配给工作,充分体现出良好的扩展性。4) 可用性需求云存储系统需要提高良好的可用性,将复杂的应用、繁琐的操作流程简单化。对用户而言只需要使用唯一的IP地址就能够访问和管理云存储系统。用户在唯一的界面上就能够准确并安全地进行配置、部署、监控整套云存储系统,能够为用户对设备状态、资源、报警、升级、扩展,维护方面提供便捷。5) 性能需求要求系统提供线性递增的性能属性,容量越大性能越强；同时提供并发响应机制,加快数据业务的处理能力。2.2 技术路线海康威视视频云存储系统基于云架构进行开发,采用面向用户业务应用的设计思路,融合集群应用、负载均衡、虚拟化、云结构化、离散存储等技术,可将网络中大量各种不同

26、类型的存储设备通过专业应用软件集合起来协同工作,共同对外提供高性能、高可靠、不间断的数据存储和业务访问服务。在视频云存储系统的设计中,采用的核心技术如下：1) 采用存储全域虚拟化技术对具有海量存储需求的用户提供透明存储构架,可持续扩容避免瓶颈限制,可以更有效的进行资源管理,灵活增减空间,达到最大程度上合理利用空间的效果。2) 采用集群技术,解决单/多节点失效问题,并利用负载均衡技术充分利用各存储节点的性能,提升系统的可靠性和安全性。3) 采用离散存储技术,保障了用户高效的读写的同时保证了业务的持续性。4) 采用统一完善的接口,降低对接成本、平台维护成本和用户管理的复杂度。5) 采用开放的集成构

27、架,使其可兼容业界各类iSCSI/FC存储设备,保护用户现有存储投资资源。6) 采用数据备份和容灾技术,保证云存储中的数据不丢失,确证云存储服务的安全稳定。7) 采用视频、图片的全直存技术方案,保证项目整体的成本控制,优化存储系统流程。2.3 逻辑架构云存储系统采用分层结构设计,整个系统从逻辑上分为五层,分别为设备层、存储层、管理层、接口层、应用层。图1. 云存储逻辑架构图1) 设备层设备层是云存储最基础、最底层的部分,该层由标准的物理设备组成,支持标准的IP-SAN、FC-SAN存储设备。在系统组成中,存储设备可以是SAN架构下的FC光纤通道存储设备或iSCSI协议下的IP存储设备。2) 存

28、储层在存储层上部署云存储流数据系统,通过调用云存储流数据系统,实现存储传输协议和标准存储设备之间的逻辑卷或磁盘阵列的映射,实现数据视频、图片、附属流和设备层存储设备之间的通信连接,完成数据的高效的写入、读取和调用等服务。3) 管理层在管理层,融合了索引管理、计划管理、调度管理、资源管理、集群管理、设备管理等多种核心的管理功能。可以实现存储设备的逻辑虚拟化管理、多链路冗余管理、录像计划的主动下发,以及硬件设备的状态监控和故障维护等；实现整个存储系统的虚拟化的统一管理,实现上层服务视频录像、回放、查询、智能分析数据请求等的响应。4) 接口层应用接口层是云存储最灵活多变的部分,接口层面向用户应用提供

29、完善以及统一的访问接口,接口类型可分为Web Service接口、API接口、Mibs接口,可以根据实际业务类型,开发不同的应用服务接口,提供不同的应用服务。实现和行业专属平台、运维平台的对接；实现和智能分析处理系统之间的对接；实现视频数据的存储、检索、回放、浏览转发等操作；实现关键视频数据的远程容灾；实现设备以及服务的监控和运维等。5) 应用层从逻辑上划分,除了应用层外,剩下的四层都属于通常云存储的范畴,但是在海康威视视频云存储系统中,为了与视频监控系统的建设和应用更加紧密的结合,更加符合用户的业务需求,将应用层纳入了整个系统架构中,从根本上提高海康威视视频云存储系统的针对性。可将行业视频监

30、管平台、运维平台、智能分析平台等通过相应的接口与云存储系统对接,实现与云存储系统之间的数据以及信令的交互。行业视频监控平台可与云存储系统进行配置录像计划、配置存储策略、检索视频资源、重要录像的备份存储等指令的交互,辅助流数据、视频数据、图片数据的存取。运维平台采用标准的SNMP协议实现并提供Mibs 接口,对云存储系统以及服务进行监控管理,及时将产生的告警传递给用户。将智能分析平台可与云存储系统进行对接,实现基础数据的读取,以及经过存储的二次分析后的片段信息,文本信息写入和检索。2.4 系统特点海康威视视频云存储系统通过全集群化设计、全域虚拟化设计、分布式文件系统设计、面向应用的算法、功能设计

31、为用户提供了更为海量的存储空间、更为庞大的前端路数支持、更为高效的处理能力、更为透明的系统环境。对于面向视频、图片等监控行业无疑是一套非常优秀的云存储系统。2.4.1 高效灵活的空间管理海康威视视频云存储系统具有高效灵活的空间管理能力。为了突破传统存储在存储容量和系统性能上的矛盾,在管理大容量空间时通过全系统分层集群的设计将系统的管理资源进行整合,并根据负载均衡算法提供全高效并发处理机制,大大地提高了系统的整体性能。1) 存储资源的虚拟化对存储空间的管理方面海康威视视频云存储系统将全域各存储节点的资源进行虚拟化后,向用户呈现出一个持续的、超大的数据资源池,将其称之为存储资源池。存储资源池的整合

32、过程完全透明,由系统算法自行完成,将用户从繁琐的空间管理和配置中解脱出来,提高了管理效率。2) 存储资源的在线扩展当存储资源无法满足用户的容量需求,需要进行存储资源的扩展时,海康威视视频云存储系统能为用户提供十分便易的操作。用户只需要在集群内添加新增存储设备的IP地址,系统会自动辨别新增设备,对新增设备进行虚拟化整合,这样新增设备的容量就能融入集群,并作为集群内全部存储资源的一部分为用户所用；同时,在整个存储资源的扩展过程中,视频云存储系统的录像业务正常运行,保障用户不会因为系统的扩容而中断正在进行的正常业务,从而实现存储资源的在线扩展。云存储的系统架构保证了存储资源在线扩容的同时,可以满足容

33、量与处理性能的线性增长,从而提供了无限制的容量增长能力。3) 虚拟空间的灵活使用用户对存储资源池的使用完全可以做到随心所欲,可以按照监控系统的需要和监控区域的容量大小将存储资源池的存储资源进行分配,分配后的存储资源称为录像池。录像池的划分采用灵活策略方式,对于已经分配好的并在线运行的录像池策略依然能够进行调整。调整方式非常灵活,不但能够做到将录像池进行扩大,同时也能非常灵活的支持将录像池进行缩小,而这点在传统存储中则非常困难。2.4.2 海量数据的快速检索海康威视视频云存储系统管理着百PB级的存储容量空间,但是依然能够具备高效、准确、快速的数据检索能力。1) 一体化索引设计海康威视视频云存储系

34、统的索引管理遵循着高效、简洁、一体化的设计思路。所有与用户业务相关的索引信息统一由海康威视视频云存储系统的视频云存储管理节点或者集群进行管理。视频云存储管理集群在对索引的一体化设计上将海量数据索引查找、筛选进行了全面的优化,大大的提高了查找速度。在规模不断扩大时性能几乎相同,均能做到毫秒级耗时。2) 深化的应用设计海康威视视频云存储系统本着视频云存储系统的特有性,在视频、图片的某些专有信息上也进行了独特的设计。可以支持快速的对I帧定位并直接读取I帧信息,避免了传统存储在I帧数据获取时反复读取视频数据再分析呈现的过程。该项设计使得海康威视视频云存储系统在数据存储索引设计与用户应用更紧密地进行了融

35、合,使得海康威视视频云存储系统能够为用户提供更为高效的海量数据的快速检索能力。2.4.3 持续可靠的数据服务海康威视视频云存储系统为用户能够提供7X24小时不间断高效可持续的数据服务,充分保护数据安全和可靠性。1) 集群化管理节点设计海康威视视频云存储系统在管理层面通过部署集群化视频云存储管理节点向用户提供系统级的存储性能和可靠性。通过视频云存储管理集群将管理压力、业务压力、调度压力、检索压力等同时分担在不同的视频云存储管理节点上,不但能够使系统整体性能提升,还可以使得单台节点的压力下降。通过这种方式单台视频云存储管理节点的系统消耗更小,也就使得使用寿命更长,可能出现故障的概率降低。即使视频云

36、存储管理集群中部分一台或多台节点出现故障,也不会影响到视频云存储系统的服务,因为在视频云存储管理集群中的其他节点会主动接过故障节点的工作,继续为视频云存储系统提供管理服务。2) 持续并发业务存取在数据存储层面同样由于视频云存储节点也采用的集群化部署,所有的存储资源是采用虚拟化的方式由系统统一进行管理的。在数据存储时海康威视视频云存储系统采用离散存储算法,可以为用户提供系统级分散存储服务。支持将同一IPC提供的数据流按照分片的方式分布式存储在不同视频云存储节点上。这样即使单台或多台存储节点出现故障该IPC的录像数据仍然可用。在存储节点内运行管理和业务软件也可用对数据进行合理分配,同时高效的 Ra

37、id技术在设备层面也能保证数据的高安全和可靠性。3) 高可靠的录像功能海康威视视频云存储系统在存储节点上内置视频云接入软件,所提供的录像服务和流媒体服务也是由视频云存储管理节点统一进行调度的,每套视频云接入软件负责一部分前端的录像工作。当这台节点宕机时视频云存储管理集群会根据当前资源情况按照负载均衡策略将这部分录像任务重新进行分配,保证业务的不中断。2.4.4 高可扩展的应用支撑海康威视视频云存储系统是一套为视频、图片等监控行业而设计视频云存储系统。其先天的基因中就融入了面向应用的特质,在不断发展的趋势下这种面向应用的特质会不断地为用户提供高效、灵活、可靠、的专业级存储服务。1) 数据应用性能

38、支撑由于视频数据具有持续时间长、数据量大等特点,在存储和读取上对存储设设备的压力会尤其的严重。传统存储在遇到视频流数据的时候往往会出现存储/读取慢、前端支持路数底的瓶颈。而海康威视视频云存储系统就能够很好的解决这些问题。2) 流数据存储结构设计海康威视视频云存储系统的集群化、分布式设计使得系统的性能有很大的提升,能够并发服务以满足视频数据的高速读取需求。海康威视视频云存储系统的流数据结构系统也是专门为视频、图片数据而设计,能够合理将整段数据进行划分。这样设计的优点是满足视频数据的持续写入。对于划分的粒度,通过海康威视多年视频监控行业的服务经验,同时配合对大数据服务的扩展需要,以及考虑到后期数据

39、读取和应用的频率而进行的专业调整。在具体存储空间的分配上海康威视视频云存储也是自有知识产权的设计,摒弃传统存储的分配方式而为视频、图片数据而特别设计的。3) 高扩展性应用设计视频录像的应用方面海康威视视频云存储也进行了充分的考虑。如支持对I帧的快速定位、对录像标注、修改、对存储周期采用时间和存储容量双轴线覆盖策略等。海康威视视频云存储这些专业化设计使得用户在应用过程中不再需要平台分析服务器采用反复读取完整录像后再进行分析而得出结论的方式。这样大大优化了应用的服务质量,使得监控系统的服务也更加专业、有效。同时为有云计算需求的用户提供了优质的数据基础。2.4.5 开放透明的兼容系统海康威视视频云存

40、储系统的设计理念就是通过云的概念将所有不同类型的应用、业务接口全部封闭在云内,为上层业务和用户提供统一的、透明的、可调用的系统级存储资源。1) 统一开发平台接口云存储系统在软件接口设计上采用API的模式对内部所有处理模块进行筛选,将对业务有决定性的模块按照接口的模式进行统一封装,提供给上层业务进行调用,这样云存储系统内部实现对上层业务就不再重要,上层业务只用调用云存储系统提供的统一接口即可,大大的优化了上层业务的代码结构、简化了操作步骤,也将应用的效率和性能进行了大幅提高。2) 标准第三方设备接入海康威视视频云存储系统采用的是标准的设备兼容模式,支持标准IP SAN、FC SAN存储设备的接入

41、。海康威视视频云存储系统通过部署第三方存储服务节点的方式,将用户环境中现有或者需要使用的标准第三方存储设备统一进行管理。第三方存储设备接入到海康威视视频云存储系统后,由视频云存储管理集群统一进行管理,第三方存储设备的资源也纳入到虚拟池内进行管理。用户在使用上并不会感受到差别,真正实现透明、统一、兼容的视频云存储系统。2.5 应用场景海康威视视频云存储解决方案作为安防监控行业整体方案中的存储技术部分,在确定使用云存储方案前需先明确存储业务的类型。当前云存储业务应用场景分为三种类型：纯视频云存储场景、纯图片云存储场景、视频与图片混合类云存储场景。视频云存储场景与图片云存储场景的主要区别在于：视频云

42、存储中视频数据流采用直写方式存储到存储磁盘阵列上。在此场景中云存储的存储节点替代了流媒体服务器的功能,将流媒体转发与存储结合,简化了系统结构。因此云存储不需要部署流媒体服务器,可以节省项目的整体成本。同时大幅提高存储系统的效率和可靠性。图片云存储方案中高清抓拍相机的图片数据流需要通过平台接入服务器转发到存储磁盘阵列。以云存储替代传统的存储方式,可以最大限度的发挥存储设备的整体性能,大幅提升存储效率和可靠性。对于图片中我司的图片直存云存储方案则可省去接入服务器,效率更为优良。混合云存储场景支持一套云存储能同时满足视频和图片数据的存储要求。并综合视频和图片的在云存储系统中的存储优势,将复杂的业务存

43、储场景简单化,向用户提供一体化的存储解决方案。因此本方案针对业务应用场景进行了分类：纯视频类数据的云存储设计请参考第三章；纯图片类数据的云存储设计请参考第四章；项目既包含视频存储又包含图片存储的情况请参考第五章。第 三 章 视频类云存储设计海康威视视频云存储系统应用于纯视频存储时,主要是承担整个系统内的视频数据写入/读取工作。云存储系统一方面采用了基于云架构的分布式集群设计和虚拟化设计,在系统内部实现了多设备协同工作、性能和资源的虚拟整合,最大限度利用了硬件资源和存储空间。另一方面,通过将云存储的存储功能、管理功能进行打包,通过开放透明的应用接口和简单易用的管理界面,与上层应用平台整合后,为整

44、个安防监控系统提供了高效、可靠的数据存储服务。3.1 系统软硬件设计3.1.1 软件设计海康威视视频云存储系统主要由四大部件组成：云存储管理软件CVM,云存储软件CVS,云存储接入软件CVA以及云存储异构软件ASS。下面分别介绍四大软件内部结构及功能。3.1.1.1 视频云存储管理软件CVM视频云存储管理软件：CVMCloud Video Manage整套软件,主要功能包括视频云存储系统内资源管理、存储节点管理、集群管理、策略调度、运维监控等。软件包含六大功能模块,分别为：索引管理模块、调度管理模块、集群管理模块、计划管理模块、资源管理模块、辅助管理模块,整体软件架构如下图所示：图2. CVM

45、软件架构1、 索引管理模块索引管理模块集群化管理集群中的全部管理节点,能并发响应用户的检索、插入、修改和删除操作情况,提供一体化、高并发、快响应的索引服务。同时,索引管理模块提供视频索引、标注索引服务,支持以通道号、时间段、录像类型和锁定状态为条件的视频信息检索服务,支持以通道号和时间段为条件插入、修改、删除和检索标注的功能,以及根据标注关键字检索视频的特色功能。2、 调度管理模块调度管理模块根据集群中设备的负载状况,灵活的调度集群资源为应用业务提供支撑。作为集群系统中的逻辑引擎根据不同的逻辑策略执行不同的调度算法,提供资源分配调度、分散策略调度、循环覆盖调度、录像计划调度等服务。3、 集群管

46、理模块集群管理模块统一管理集群中分布式设备节点,包括管理节点和存储节点。它负责管理节点之间关键信息的实时同步,保证集群中不同管理节点信息的一致性,无差异化的对外提供服务。同时也负责管理存储节点,将存储节点加入到集群中作为存储资源的一部分,集群管理模块维护集群中设备节点的实时状态信息,对外提供设备状态查询接口便于管理和了解集群的整体运行状态信息。4、 计划管理模块计划管理模块负责录像计划的管理、下发、切换,保存监控平台下发的录像计划,调度系统中的录像计划并执行录像计划,当接入服务器异常时负责动态切换录像计划到其它接入服务器。 5、 资源管理模块资源管理模块负责对集群中所有存储设备的存储空间进行统

47、一管理,根据入网存储设备上报的资源信息计算出集群存储总容量和空闲容量,负责创建、删除录像池,为存储业务分配合适的存储资源。同时能动态的调整录像池的大小,弹性的对录像池进行扩容或者缩减,将集群存储空间切分成细小独立的存储单元,再根据用户需要,将很多个存储单元有机组合后虚拟化成录像池对外提供存储服务。6、 辅助管理模块辅助管理模块包含日志管理、运维管理、数据迁移等功能,日志管理为其他模块提供日志打印服务,对外具备日志查询和日志文件下载功能,包含调试日志、事件提示日志、错误日志、告警日志和重要日志。运维管理云视频管理节点的运行参数获取接口,供运维平台获取管理节点的实时运行信息。数据迁移功能对外提供将

48、第三方数据迁移到本视频云存储系统中保存的功能。3.1.1.2 视频云存储软件CVS视频云存储软件：CVSCloud Video Storage是视频云存储系统中的重要模块,主要负责执行具体的视频数据读写操作。CVS集成在视频云存储节点CVSN上,每一台存储设备上都必须装载该软件模块。视频云存储软件CVS接受视频云存储管理软件CVM的管理,从视频云接入软件CVA接收海量视频数据,高效无误的存放在本机指定的数据块中。在一套视频云存储系统中,视频云存储存储管理软件CVM会均衡分配多台视频云存储软件CVS的业务负载量,使整个系统的读写性能达到最佳。视频云存储软件按照功能模块化设计,整体软件架构如下图所

49、示：图3. CVS软件架构1、 通信模块本模块主要是负责和CVA及CVM进行数据信息的交互,采用多线程并发接收和发送数据的方式,高效完成跨机器的数据交互。2、 运维管理本模块主要是负责和视频云运维软件进行交互,采集系统数据及程序运行数据,并按照特定协议格式发送给视频云运维部件,方便平台对整个云存储系统运行状态进行实时监控,如有故障出现,及时报警提醒相关人员进行处理。3、 视频接入本模块主要是负责处理从CVA传输进来的视频数据,并按分类进行一定的逻辑处理。采用多线程的处理方式,可同时支持数百路的视频数据接入。4、 日志管理本模块主要是负责对CVS的日志进行统一管理,记录一些重要事件,方便事件回溯

50、,对外提供日志查询和日志下载功能。5、 视频文件系统本模块根据视频的特性,定义流式存储结构,主要是负责视频数据的高效读、写。6、 数据库管理本模块主要是负责对CVS系统运行时需要临时存放的一些重要数据进行保存,可以方便的以SQL接口提供插入和查询,简化数据存放和获取的机制。3.1.1.3 视频云存储接入软件CVA视频云接入软件CVACloud Video Access也是整个云存储系统的重要组成部分,主要包括录像任务管理、录像服务、设备状态管理和部分流媒体转发服务等功能。视频云接入软件支持定时录像、移动侦测录像和事件录像如：手动录像,其中事件录像的优先级要高于定时录像和移动侦测录像。视频云接入

51、软件实时检测用户配置的录像计划任务信息表,当接入软件检测到有通道需要执行录像任务时,接入软件首先通知流媒体服务从前端设备读取视频数据,然后根据录像类型执行相关录像。视频云接入软件按照功能模块化设计,软件包括六大功能模块：录像任务管理、流媒体服务、设备状态管理、负载信息管理、录像服务、视频帧分析。整体软件架构如下图所示：图4. CVA软件架构1、 录像任务管理录像任务管理功能主要包括定时录像管理、移动侦测录像管理和事件录像管理等功能。定时录像和移动侦测录像是用户设置的计划录像,事件录像是用户计划外的录像。录像管理功能需要按照用户的需求从前端设备获取视频数据、执行录像、停止录像和停止从前端设备取流

52、等操作。 移动侦测录像,录像管理功能首先需要对前端设备布防,并监控前端设备的报警状态,同时还可以根据用户的需求提前从前端设备获取视频数据,通过预先获取数据流保证了视频的完整性,当接入软件收到前端设备的移动侦测报警命令后,立即执行录像。 事件录像,录像管理功能接收到事件录像命令,首先检索当前通道是否有定时录像或移动侦测录像,如果没有上述两种录像,立即执行录像,事件录像的优先级要高于移动侦测录像和定时录像。2、 流媒体服务流媒体服务主要包括流媒体转发模块和流控制管理模块,流媒体服务具有稳定和高效等特点,整个系统提供持续的视频数据支持。流媒体服务传输视频数据支持RTSP、TCP和UDP协议,可以根据

53、不同环境选择合适当前网络性能的传输方式。流媒体服务视频流转发功能：流媒体服务从前端设备获取到视频流后可以根据用户的需要将视频流转发给多个用户或设备。通过视频转发功能降低了前端设备的压力,节省了网络带宽,极大的提高了系统性能。3、 设备状态管理设备状态管理是云存储接入软件的基础功能,它主要包括监控前端设备状态、布防状态和取视频数据流的状态。 前端设备状态监控：状态管理功能实时获取前端设备的状态,当检测到前端设备异常,接入软件会及时上报。 设备布防状态监控：状态管理功能实时监控前端设备的布防状态,当前端设备布防失败,接入软件会及时上报。 读取视频流状态监控：状态管理功能实时监控流媒体服务的工作状态

54、、如果流媒体服务取视频流时发生异常,接入软件会及时上报。4、 负载信息管理负载信息管理功能主要是接入软件实时监控当前服务器的内存和CPU使用情况,并定时上报当前资源使用信息,云存储管理软件CVM根据上报的资源使用信息均衡分配录像计划到云存储接入软件CVA。5、 录像服务录像服务包括取流管理模块和执行录像服务模块两个部分。录像服务接收录像任务管理模块下发的录像信令,当录像服务接收到录像任务管理模块开启录像信令后,首先通过取流模块向流媒体服务发送取流信令,然后将流媒体转发的视频数据发送到云视频存储软件为一次录像的开始。当录像服务接收到录像任务管理模块下发的停止录像信令,录像服务首先向流媒体服务发送

55、停止取流的信令,然后通知云视频存储软件停止录像为一次录像的结束。6、 视频帧分析帧分析模块主要是对流媒体服务读取的视频数据进行帧分析,从视频数据中分析出关键帧等信息,为系统提供关键帧查询和关键帧回放提供技术支持。3.1.1.4 视频云存储异构软件ASS异构存储软件ASSAsynchronous Storage Service主要负责接入第三方iSCSI/FC 标准存储设备,软件集成安装在ASSN节点内,具体负责接入第三方iSCSI/FC 存储设备的工作。软件主要由三个模块实现,分别为识别模块、挂载模块和管理模块；主要和CVS交互。通过识别模块和挂载模块实现对第三方标准存储设备的兼容工作。通过管

56、理模块与存储设备以及上层CVS之间进行交互。整体软件架构如下图所示：图5. ASS软件架构1、 识别模块探测到异构设备后获取其相关系统信息,将其视作为存储设备,在设备目录中添加相应节点。2、 挂载模块将新加的设备节点转化为通用存储设备节点,并挂载到软件系统中以备CVS使用。3、 管理模块本模块的功能是：将本机内存储设备和异构设备统一管理,实现设备的加入和退出,以及相关状态的保存和记录。除上述三项软件外,在云存储系统内部实现了运维信息的收集与告警机制。该机制负责对云储存系统内的设备和资源的运行情况进行统一监控,以标准的SNMP协议与将机器运行状态以及产品特性运行指标反馈给运维系统。实现对设备状态

57、实时检测,对异常状态实时报警,如：硬盘丢失、CPU/内存使用率过高、存储空间不足、设备温度过高、管理服务器运行异常、设备下线等。3.1.2 硬件设计海康威视视频云存储系统由存储管理服务器存储管理节点CVMN、存储设备存储节点CVSN及异构服务器第三方存储服务节点ASSN组成。3.1.2.1 视频云存储管理节点CVMN视频云存储管理节点：CVMNCloud Video Manage Node在云存储标配服务器上集成安装视频云管理软件CVMCloud Video Manger,其主要功能包括视频云存储系统内资源管理、存储节点管理、集群管理、策略调度、运维监控等。根据视频云存储系统的规模情况和可靠性

58、要求管理节点部署可分为：HA部署和集群部署两种模式。其中HA部署模式适用于1024路以内监控前端视频读写规模,通过两台服务器做双机热备；集群部署模式适用于较大型的视频云存储系统,可以进行三台或三台以上配备,集群部署的服务器台数必须是奇数增加。集群部署的优势在于通过视频云存储管理节点内部集群功能将协调各节点设备资源,将用户配置、数据库信息、策略计划进行统一进行调度,整体性能呈现线性增长。同时也增加了系统的可靠性,多台设备的故障不会影响到系统的运行。无论是HA部署模式还是集群部署模式,视频云存储都使用唯一的虚拟IP地址对外提供服务。3.1.2.2 视频云存储节点CVSN视频云存储节点：CVSNCl

59、oud Video Storage Node在存储设备上集成安装视频云存储软件CVSCloud Video Storage和视频云接入软件CVACloud Video Access作为存储节点。主要是响应视频云存储管理节点CVMN和应用层的录像、查询、下载等操作申请,以及管理物理存储设备和空间,视频云存储节点模块具有以下功能： 负责根据接收云存储管理节点下发的录像计划,并根据录像计划向对应的前端摄像头进行取流操作。 负责将接收到的录像数据写入到存储底层或从存储底层读取数据,通过协议接口主要向API提供录像、查询、回放及下载服务。 提供存储设备的状态检测和信息上报功能。 存储底层：使用Raid技

60、术来保证数据安全,支持节能的磁盘休眠功能。3.1.2.3 第三方存储服务节点ASSN第三方存储服务节点：ASSNAsynchronous Storage Service Node在服务器上集成安装异构存储软件ASSAsynchronous Storage Service、视频云存储软件CVSCloud Video Storage、视频云接入软件CVACloud Video Access的接入第三方存储服务节点。其主要功能是通过安装异构软件ASS完成对第三方iSCSI/FC 标准存储设备的接入,实现对项目已有资源的兼容性利用。使得第三方存储设备通过ASSN的整合后,具备与CVSN同样的功能。3.

61、2 系统物理拓扑视频云存储系统主要由存储管理节点服务器和存储节点物理存储设备两部分组成。系统内部需要配置的元数据信息由云存储管理服务器统一管理,管理节点还需要负责集群内部的负载均衡,失败替换等管理职能；视频云存储系统可以组建海量的存储资源池,容量分配不受物理硬盘数量的限制；并且存储容量可进行线性在线扩容,性能和容量的扩展都可以通过在线扩展完成。视频云存储物理结构如下图所示：图6. 视频云存储物理结构图视频云存储管理节点CVMN：部署存储管理服务器,是视频云存储系统的核心节点,作为云存储系统的调度中心负责云存储系统资源管理、索引管理、计划管理、策略调度等。根据项目对存储容量需求、前端支撑数目、性

62、能要求、可靠性要求,存储管理节点可以按照两种方式部署：HA部署、集群部署。视频云存储节点CVSN：作为云存储系统业务的具体执行者负责视频数据存储、读取、存储设备管理、存储空间管理等。3.3 系统功能设计海康威视视频云存储系统面向视频应用定制化开发,提供了丰富的功能接口供视频监控管理平台调用,主要功能如下图所示：图7. 视频云存储系统功能图3.3.1 视频存储功能功能项功能说明视频录像系统可以按照用户制定的计划保存前端设备采集的录像数据,录像类型、录像头由用户指定,存储开启相关的资源。动态修订录像类型：前端采集视频数据过程中,按报警类型可以修改录像的类型,修改后采集的视频数据即时保存到系统中,并

63、在数据保存类型上得到反映。视频检索用户可以按监控点编号、录像类型、时间组合、锁定、标注等条件查询录像数据。视频回放支持根据监控点编号以及时间段、录像类型对录像数据进行回放。支持根据监控点编号以及时间段对录像数据进行回放时间定位。支持快放、慢放。支持倒序回放。支持I 帧回放。支持手动停止回放。视频下载支持根据监控点编号以及时间段对录像数据进行下载。支持断点续传。视频锁定支持指定的录像片段进行锁定,锁定后的数据不被循环覆盖掉。支持已锁定的录像片段锁定时长到期自动解锁。视频标注对录像数据信息所对应的标签进行打标、存储、备份等操作；对录像等数据信息的标签信息进行查询、检索、筛选工作；对录像等数据信息所对应的标签进行修改、删除等操作。视频删除支持根据监控点编号、录像时间、录像类型删除视频录像。周期覆盖按策略支持按周期