《数据流体系结构风格.ppt》由会员分享,可在线阅读,更多相关《数据流体系结构风格.ppt(50页珍藏版)》请在三一办公上搜索。
1、软件体系结构及应用4 数据流体系结构风格,主要内容,4.1 数据流体系结构风格的基本特征4.2 管道-过滤器(pipe-and-filter)4.3 批处理(batch sequential)4.4 批处理与管道-过滤器的比较,4.1 数据流体系结构风格的基本特征,数据流风格的直观理解,A data flow system is one in which the availability of data controls the omputation(数据的可用性决定着处理是否执行)the structure of the design is dominated by orderly moti
2、on of data from process to process(系统结构:数据在各处理之间的有序移动)in a pure data flow system,there is no other interaction between processes(在纯数据流系统中,处理之间除了数据交换,没有任何其他的交互),数据流风格的基本构件(COMPONENT),Components:data processing components(基本构件:数据处理)Interfaces are input ports and output ports(构件接口:输入端口和输出端口)Input ports
3、 read data;output ports write data(从输入端口读取数据,向输出端口写入数据)Computational model:read data from input ports,compute,write data to output ports(计算模型:从输入端口读数,经过计算/处理,然后写到输出端口),数据流风格的连接件(CONNECTOR),Connectors:data flow(data stream)(连接件:数据流)Uni-directional,usually asynchronous,buffered(单向、通常是异步、有缓冲)Interfaces
4、 are reader and writer roles(接口角色:reader和writer)Computational model(计算模型:把数据从一个处理的输出端口传送到另一个处理的输入端口),数据流风格的拓扑结构(TOPOLOGY),数据流VS.控制流,在von Neumann的计算机体系结构中,有控制流与数据流之分;控制流(Control flow)数据流(Data flow)讨论:二者有什么区别和联系?能否分别举出几个例子?,两种典型的数据流风格,Pipe-and-Filter(管道-过滤器)Batch Sequential(批处理),4.2 管道与过滤器风格PIPE-AND-F
5、ILTER,从“自来水管道系统”看Pipe-And-Filter,基本定义,语境:数据源源不断的产生,系统需要对这些数据进行若干处理(分析、计算、转换等)。解决方案:把系统分解为几个序贯的处理步骤,这些步骤之间通过数据流连接,一个步骤的输出是另一个步骤的输入;每个处理步骤由一个过滤器构件(Filter)实现;处理步骤之间的数据传输由管道(Pipe)负责。每个处理步骤(过滤器)都有一组输入和输出,过滤器从管道中读取输入的数据流,经过内部处理,然后产生输出数据流并写入管道中。,Pipe-And-Filter风格的基本构成,Components:Filters process data stream
6、s(构件:过滤器,处理数据流)A filter encapsulates a processing step(algorithm or computation)(一个过滤器封装了一个处理步骤)Data source and data sink are particular filters(数据源点和数据终止点可以看作是特殊的过滤器)Connectors:A pipe connects a source and a sink filter(连接件:管道,连接一个源和一个目的过滤器)Pipes move data from a filter output to a filter input(转发数
7、据流)Data is a stream of“objects”(数据是特定类型的“对象”流)Topology:Connectors define data flow graph(连接器定义了数据流图,形成拓扑结构),1 过滤器(Filter),Incrementally transform some of the source data into sink data(目标:将源数据变换成目标数据)Stream to stream transformation(从“数据流”“数据流”的变换)enrich data by computation and adding information(通过计
8、算和增加信息来丰富数据)refine by distilling data or removing irrelevant data(通过浓缩和删减来精炼数据)transform data by changing its representation(通过改变数据表现方式来转化数据)decompose data to multiple streams(将一个数据流分解为多个数据流)merge multiple streams into one stream(将多个数据流合并为一个数据流),过滤器对数据流的五种变换类型,过滤器读取与处理数据流的方式,Incrementally transform
9、data from the source to the sink(递增的读取和消费数据流)在输入被完全消费之前,输出便产生了。,过滤器的一些基本特征,Filters are independent entities,i.e.,no context in processing streams(无上下文信息)no state preservation between instantiations(不保留状态)no knowledge of upstream/downstream filters(对其他过滤器无任何了解)collections can be used to buffer the da
10、ta passed through pipes:files,arrays,dictionaries,trees,etc.(可使用数据缓冲区临时保存数据流)蓄水池,2 管道(Pipe),Move data from a filters output to a filters input(or to a device or file)(作用:在过滤器之间传送数据)One way flow from one data source to one data sink(单向流)A pipe may implement a buffer(可能具有缓冲区)Pipes form data transmissi
11、on graph(管道形成传输图)不同的管道中流动的数据流,具有不同的数据格式(Data format)。原因:数据在流过每一个过滤器时,被过滤器进行了丰富、精练、转换、融合、分解等操作,因而发生了变化。,管道中流动的数据类型,Pipe between two threads of a single process(e.g.,Java Streams)Stream may contain references to shared language objectsPipe between two processes on a single host computer(e.g.,UNIX Name
12、d Pipes)stream may contain references to shared OS objects(e.g.,files)Pipe between two processes in a distributed system(e.g.,Internet Sockets)Stream contents limited to raw bytes Protocols implement high-level abstractions(e.g.,pass pipes as reference,pass COBA object references),管道中流动的数据类型,Tradeof
13、f compatibility and reusability everything is a stream vs.type safety stream of Persons,stream of TextsPopular stream data formats raw byte stream stream of ASCII text lines with line separator record stream(record attributes are strings,separated by tabulator or comma)nested record stream(record at
14、tribute is in turn a sequence)stream representing a tree traversal(inner nodes/leaf nodes enumerated in preorder,postorder,inorder)typed stream with a header containing its type information(e.g.,column headings)event streams(event name and event arguments),管道-过滤器风格的一些变化形式,数据流的分类:推式与拉式,Question:what
15、is the force that make data flow?(是什么力量推动数据在管道中流动?)Three choice,all with force emanating from filters:Push:data source pushes data in downstream direction(推式:前面的过滤器把新产生的数据推入管道)Pull:data sink pulls data from upstream direction(拉式:随后的过滤器从管道中拉出所需数据)Push/pull:a filter is actively pulling from upstream,c
16、omputing,and pushing downstream(推拉式:过滤器以循环的方式,从管道中拉出其输入数据,并将其处理产生的数据压入后续管道),过滤器的分类:主动与被动,Active filter:drivers the data flow on the pipes.(主动过滤器:驱动数据流动,pull+push)Passive filter:is driven by the data flow on the(input/output)pipes.(被动过滤器:被管道中的输入或输出数据流所驱动)Attention:系统中至少有一个主动过滤器(可以来自外部环境,如用户输入),被动过滤器所
17、采用的两种策略,Pull Strategy:The filter is a passive object that is driven by the subsequent pipeline element that pulls output data from the filter;(采用拉式策略的被动过滤器:该过滤器不会主动执行,而是在后续 过滤器的“拉”动作的驱动下才执行)Push Strategy:The filter is a passive object that is driven by the previous pipeline element that pushes input
18、 data into the filter.(采用推式策略的被动过滤器:该过滤 器不会主动执行,而是在前续过滤器 的“推”动作的驱动下才执行),采用推式策略的被动过滤器,采用拉式策略的被动过滤器,一个混合型的管道-过滤器系统,一个混合型的管道-过滤器系统,带有缓冲区的混合型管道-过滤器系统,带有缓冲区的混合型管道-过滤器系统,过滤器的状态,停止状态:表示过滤器处于待启动状态,当外部启动过滤器后,过滤器处于处理状态。处理状态:表示过滤器正处理输入数据队列中的数据。等待状态:表示过滤器的输入数据队列为空,此时过滤器等待,当有新的数据输入时,过滤器处于处理状态。,Pipe-And-Filter风格的
19、典型应用,Pipe-And-Filter风格的典型应用,Complier(scan,parse,generate code,.)(编译器)Unix pipes(Unix管道)Image processing(图像处理)Signal processing(信号处理)Voice and video streaming(声音与图像处理),管道-过滤器风格的例子,管道-过滤器风格的例子:Unix Shell,管道-过滤器风格的例子:Unix Shell,管道-过滤器风格的例子:编译器(1),管道-过滤器风格的例子:编译器(2),管道-过滤器风格的优点,使得系统中的构件具有良好的隐蔽性和高内聚、低耦合的
20、特点;允许设计者将整个系统的输入/输出行为看成是多个过滤器的行为的简单合成;支持软件复用:只要提供适合在两个过滤器之间传送的数据,任何两个过滤器都可被连接起来;系统维护和增强系统性能简单:新的过滤器可以添加到现有系统中来,旧的可以被改进的过滤器替换掉;允许对一些如吞吐量、死锁等属性的分析;支持并行执行:每个过滤器是作为一个单独的任务完成,因此可与其它任务并行执行。,管道-过滤器风格的缺点,通常导致进程成为批处理的结构 这是因为虽然过滤器可增量式地处理数据,但它们是独立的,所以设计者必须将每个过滤器看成一个完整的从输入到输出的转换;不适合处理交互的应用 当需要增量地显示改变时,这个问题尤为严重;
21、因为在数据传输上没有通用的标准,每个过滤器都增加了解析和合成数据的工作,这样就导致了系统性能下降,并增加了编写过滤器的复杂性。绝大部分处理时间消耗在格式转换上,4.3 顺序批处理风格Batch Sequential Style,批处理风格的直观结构,将用户输入的纸带上的数据写入磁带,将磁带作为计算设备的输入,进行计算,得到输出结果,打印计算结果,批处理风格的直观结构,基本定义,Processing steps are independent programs(每个处理步骤是一个独立的程序)Each step runs to completion before next step starts(
22、每一步必须在前一步结束后才能开始)Data transmitted as a whole between steps(数据必须是完整的,以整体的方式传递)Typical applications(典型应用):classical data processing(传统的数据处理)program compilation/computer aided software engineering(程序编译/CASE工具),基本构成,Components(processing steps)are independent programs(基本构件:独立的应用程序)Connectors are some ty
23、pe of media-traditionally magnetic tape(连接件:某种类型的媒质)Topology:Connectors define data flow graph(连接件定义了相应的数据流图,表达拓扑结构)Each step runs to completion before the next step begins(每一步骤必须在前一步骤完全结束之后方能开始),示例:批处理风格的系统,数据流图(Data Flow Diagram,DFD图),4.4 批处理与管道-过滤器的比较,批处理与管道-过滤器的比较,相似点:Decompose task into fixed s
24、equence of computations(把任务分解成为一系列固定顺序的计算单元)Interact only through data passed from one to another(彼此间只通过数据传递交互),批处理与管道-过滤器的比较,不同点:,归纳:选择数据流风格的一些原则,Task is dominated by the availability of data(任务由数据的可用性来主导)Data can be moved predictably from process to process(事先知道数据的确切流向)There may be a performance penalty in data flow styles,however this depends on many factors(数据的流动带来性能损耗),