【教学课件】第一章网络算法学概述

第一章 网络算法学概述什么是网络算法学？o网络算法学：n采用跨学科的、系统的方法组织网络实现o网络算法学是一种跨学科的方法：n包括体系结构、操作系统、硬件设计、算法设计等领域。o网络算法学是一种系统的方法：n将网络设备看成是一个系统，其功能可在不同的子系统间迁移，以达到提高网络设备性能的目的。网络算法学要解决什么问题？o网络算法学要解决基本的网络性能瓶颈。o网络算法学提倡的方案是解决这些瓶颈的一组基本技术。网络设备的两种基本类型o端节点：n网络终端，包括PC机、工作站、服务器等n针对通用计算而设计n运行全功能的操作系统o路由器：n代表一类通用的网络互联设备，包括网桥、交换机、网关等。n网络专用设备n运行一个很轻量级的OS，以及一个完全由硬件实现的转发路径。端节点性能瓶颈的产生o结构化：n软件分层：OS按照分层原则组织n保护机制：OS都实现了一组保护机制n过度一般化：核心例程使用一般机制完成o规模：n许多OS使用只能支持少量连接的低效算法和数据结构o主要性能瓶颈：n数据拷贝，上下文切换，系统调用，中断处理，定时器管理，协议解复用，协议处理路由器性能瓶颈的产生o规模：nBandwidth scaling：链路速度和网络流量不断提高nPopulation scaling：因特网规模不断增大o服务：n为网络应用提供服务质量、安全性和可靠性保证o主要性能瓶颈：n查表，包分类，交换，排队，测量，安全检查解决瓶颈的技术：网络算法学o网络设备是包括硬件和软件的复杂系统，系统的各个部分不是孤立的o通常可以通过在时间及空间上移动一个子系统中的某些功能来设计出高效的子系统：n某些功能可以移到其它子系统中实现n某些功能可以移到需要它的时间之前实现，或者推迟实现 一个热身的例子：检测异常URL的硬件o应用背景：检测利用HTTP报文中的URL域实施的内存溢出攻击。o提取攻击特征：URL很长，且字符出现比例异常。o设计要求：要求芯片设计师设计一个硬件，对包含可疑URL的包进行标记。朴素的解决方案o维护两个长度为256的数组 T 和 C：n数组T：保存正常的URL中各个字符出现比例的上限n数组C：统计各个字符在当前URL中出现的次数o每当开始一个新的数据包时，对数组C清零。o确定URL的起始位置后：n每读入一个字符“i”，Ci加1。n扫描到URL终结符时，得到URL的长度L。o遍历T和C：n对于任何一个“j”，如果Cj L*Tj，标记该分组。算法分析o线速处理：一个分组必须在下一个分组到来之前处理完。o假定Ci加1可以在每个字节到来的时间内完成。o算法对数组有两次遍历：n新的数据包开始时，初始化C为零。n扫描完URL后，检查各个字符的出现比例是否超限。o两次遍历至少需要768次读/写操作：nC数组读、写各一次nT数组读一次 算法优化：取消URL结束后的遍历o直观上，扫描完URL后检查每个字符的出现比例是不必要的。o基本思想：只跟踪最高的相对出现次数。算法优化：取消URL结束后的遍历o基本思想：只跟踪最高的相对出现次数o方法：n使用一个寄存器记录到目前为止最高的相对出现次数：Max=maxCi/Tin每读入一个新字符“i”，oCi加1o若Ci/TiMax,Max=Ci/TinURL扫描结束后，若Max L，标记分组。问题和分析oQ：除法逻辑比较复杂，能否避免除法运算？问题和分析oQ：除法逻辑比较复杂，能否避免除法运算？oA：若除数为2-k，除法可以用移位实现问题和分析oQ：除法逻辑比较复杂，能否避免除法运算？oA：若除数为2-k，除法可以用移位实现oQ：Ti不一定是2-koA：？问题和分析oQ：除法逻辑比较复杂，能否避免除法运算？oA：若除数为2-k，除法可以用移位实现oQ：Ti不一定是2-koA：放宽系统要求，对于每个Ti，用不大于Ti的近似值（1/2k）表示。利用硬件特性：消除除法运算o改进后的处理过程：nTi中存放移位的次数n读入新字符“i”后：oCi加1o左移Ti位o若移位后的值大于Max,更新Maxn当URL扫描结束后，如果Max L，标记分组问题和分析oQ：每处理一个字节需要2次读和1次写，与朴素方案相比增加了一次读，能否不增加读/写次数？问题和分析oQ：每处理一个字节需要2次读和1次写，与朴素方案相比增加了一次读，能否不增加读/写次数？o基本思路：将C数组和T数组合并到一个数组中，将2次读操作合并为1次读操作。利用硬件：合并对T和C的读操作o改进方法：n使用较长宽度的字，每个字中保存Ci和Tin比如，Ci使用15比特，Ti使用14比特o可行性：n使用硬件取出合并到一个字中的域是很简单的o到目前为止，我们成功消除了URL扫描结束后对数组T和C的遍历，并消除了该方法产生的除法问题以及URL扫描过程中多一次访问T数组的问题 初始化C的开销能不能降下来？初始化C的开销能不能降下来？oQ：有必要在每开始一个新的数据包时，清除整个C数组吗？初始化C的开销能不能降下来？oQ：有必要在每开始一个新的数据包时，清除整个C数组吗？oA：从道理上说，Ci不需要被清除，直到一个新的数据包需要使用它。（lazy evaluation）n当芯片扫描到一个新的URL、并且第一次遇到字符 “i”时，设置Ci=1n此后再扫描到字符“i”时，Ci加1初始化C的开销能不能降下来？oQ：有必要在每开始一个新的数据包时，清除整个C数组吗？oA：从道理上说，Ci不需要被清除，直到一个新的数据包需要使用它。（lazy evaluation）oQ：芯片如何知道Ci统计的是当前URL中的“i”，还是之前某个URL中的“i”？初始化C的开销能不能降下来？oQ：有必要在每开始一个新的数据包时，清除整个C数组吗？oA：从道理上说，Ci不需要被清除，直到一个新的数据包需要使用它。（lazy evaluation）oQ：芯片如何知道Ci统计的是当前URL中的”i”，还是之前某个URL中的”i”？oA：给每个数据包赋一个世代号，该数据包使用的计数器具有与数据包相同的世代号 Lazy Evaluation：消除对：消除对C的初始化的初始化 o改进方法：n每个表项扩展一个世代域（generation number）Gi，比如3比特n另外维护一个寄存器g，记录当前数据包的世代号n每当一个新的数据包到来，g=(g+1)mod 8n每当Ci初始化时，Gi也要更新消除对C的初始化（续）o假定一个正在处理的数据包，其世代号为hn当读入字符“i”时，从联合数组中读Gi、Ci和Tio若Gi h，写Ci=1，并设Gi=ho若Gi=h，Ci加1nCi左移Ti位n若移位后的值大于Max，更新MaxnURL扫描结束后，如果Max L，标记分组 问题与分析oQ：g回绕怎么办？问题与分析oQ：g回绕怎么办？oA：未被使用的计数器，在其世代号发生回绕前必须被清除 问题与分析oQ：g回绕怎么办？oA：未被使用的计数器，在其世代号发生回绕前必须被清除 o基本思想：n芯片需要一个额外的清洗循环，将世代号过时的Ci置0，但该循环只需在8个分组的时间内完成。使用长周期的清洗循环清理Co改进方法：n芯片需要两个状态，scrub和normal。每当扫描完一个URL，芯片切换到scrub状态。n另外维护一个寄存器，指向下一个要清洗的表项s。n在scrub状态，每当收到一个非URL字节，读入表项s，如果Gs g，设置Gs=g 和 Cs=0。网络算法学的特性o网络算法学是跨学科的n跨学科的思维有助于产生出最好的设计 o网络算法学肯定系统思维的重要性 n放宽要求和将工作从一个子系统迁移到另一个子系统是极其常见的系统技术n“黑盒思维”不利于产生出整体或系统思维 o网络算法学从算法思维中获益n算法思维也是重要的，但应注意不可盲目地重用已有的算法。网络算法学的确切定义o网络算法学是运用跨学科的、系统的方法加上算法思维，为服务器、路由器和其它网络设备上的网络处理任务设计快速的实现。