2009并行计算与多核程序设计13-14多核多线程研讨课

1并行计算与多核程序设计研讨课多核多线程陈天洲，施青松，胡威{tzchen,zjsqs,ehu}@zju.edu.cn2009年12月16日，玉泉校区曹西101浙江大学软硬件协同设计实验室多线程讨论话题1多核多处理器服务器上的线程，运行机制是怎么样的浙江大学软硬件协同设计实验室多处理器每个处理器是多核塔式服务器机架式服务器（1U-4U）刀片服务器bladeserver主要结构为：一大型主体机箱，内部可插上许多“刀片”，每一块刀片上就是一块系统母板类似于多个独立的服务器，可以通过本地硬盘启动自己的操作系统每一块刀片可以运行自己的系统，服务于指定的不同用户群，相互之间没有关联可以用系统软件将这些主板集合成一个服务器集群，成为集群模式所有的刀片可以连接起来提供高速的网络环境，共享资源，为相同的用户群服务在集群中插入新的刀片，就可以提高整体性能热插拔刀片服务器分类服务器刀片、网络刀片、存储刀片、管理刀片、光纤通道SAN刀片、扩展I/O刀片等等特点克服了芯片服务器集群的缺点实现了机柜优化浙江大学软硬件协同设计实验室任务分别适合怎么样的多核多处理器？单进程单线程多进程单线程单进程多线程多进程多线程哪种任务会更优？浙江大学软硬件协同设计实验室多线程讨论话题2L2cache共享与否，与程序设计的哪些部分有关系浙江大学软硬件协同设计实验室缓存的功能本身核心上线程访问变量是否hit其他核心上线程访问变量能否hit缓存大小缓存共享机制浙江大学软硬件协同设计实验室共享级别共享L1的多核，少见处理器核心可以L2共享，也可以L2独享处理器核心可以L3共享AMD4核处理器Barcelona一个4核共享的2MB的三级CacheMagny-Cours皓龙处理器两个6核拼接，12MBL3Intel六核心DunningtonXeon7400三级缓存12/16MB八核心Nehalem-EXXeon服务器处理器每个处理器核支持两路同时多线程，8处理器共享24MB三级缓存IBMpower6的L2私有化4MBP5是共享的浙江大学软硬件协同设计实验室UMACPU访问任何地址所需要的时间都是相同的，这种内存就叫UMANUMA非一致访问分布共享存储技术non-uniformmemoryarchitecture是在多处理系统中配置微处理器的簇的方法例如簇一般由四个微处理器（例如四个奔腾微处理器）组成，这四个微处理器通过一条局域总线（例如外围组件互联总线）与一个单独主板（也可能是一个卡）上的共享内存（就是L3缓存）连接单独的处理器内存看起来就像一个内存访存顺序首先察看本身的L1缓存然后是附近的稍微大些的L1然后是L2缓存芯片再然后是NUMA结构在寻找数据之前提供的L3缓存位于另一个微处理器附近的远程内存“浙江大学软硬件协同设计实验室多路Nehalem会形成一个ccNUMA架构ccNUMA：cachecoherentNon-UniformMemoryAccess多个Nehalem处理器之间使用MESIF协议来保持缓存一致性浙江大学软硬件协同设计实验室多线程讨论话题3线程迁移，软亲和与硬亲和，对多核程序有何优劣浙江大学软硬件协同设计实验室线程迁移线程从一个CPU移动到另一个上的过程称作迁移目的是负载平衡、任务并行亲和的作用程序员操控处理器核心线程的节点亲和性(Nodeaffinity)尽量在线程的本地内存上为其进行分配，并尽量让线程保持在该节点上常见于NUMA中强调低延迟访问时候缓存亲和性(CacheAffinity)让数据尽量长时间的保留在某一个CPU的缓存中，而不是来回在多个CPU的缓存里换来换去编程如何实现这几个亲和性？浙江大学软硬件协同设计实验室多线程讨论话题4线程这个级别并发，是否可更细致浙江大学软硬件协同设计实验室硬件线程Intel的HT技术SUN的SMT技术AMDBulldozer技术单核多线程技术(multi-threadingtechnology)2011年推出Bulldozer“推土机”技术，增加Bulldozer器件双核成本增加75%，双核的性能提高90%SSE5浙江大学软硬件协同设计实验室浙江大学软硬件协同设计实验室并发级别指令级（Instructionlevel）并发一条单指令中的多个部分被同时执行时，便产生了指令级的并发汇编加速流水线、微融合、宏融合例程级（Routinelevel）并发对象级（Objectlevel）并发corba应用程序级（Applicationlevel）WBS浙江大学软硬件协同设计实验室虚拟化计算元件在虚拟的基础上而不是真实的基础上运行可以扩大硬件的容量，简化软件的重新配置过程CPU虚拟化技术可以单CPU模拟多CPU并行允许一个平台同时运行多个操作系统，并且应用程序都可以在相互独立的空间内运行而互不影响软件虚拟化硬件虚拟化浙江大学软硬件协同设计实验室事务内存来自于数据库事务的概念无锁编程（Locklessprogramming）使用原子操作（AtomicOperations）和同步路障（Memorybarrier）来完成线程间同步的功能事务内存是数据的集合通常存放在主存中，应用于程序设计可以通过事务来访问事务内存（内存事务）事务内存系统负责正确执行事务程序员只需将对事务内存的操作封装为事务，无需考虑复杂的事务同步问题浙江大学软硬件协同设计实验室事务内存分为两类延迟更新(deferred-update)一个线程对仅对对象的一个副本进行改变，如果此次执行不与其他线程发生同步冲突，则此事务成功并执行提交(Commit)动作，如果失败则执行回滚（Abort或Rollback）动作。直接更新(direct-update)直接更新则是直接对对象进行更新，并使用显式的同步语句避免其他事物在进行更新的时候修改此对象。显然在直接更新时需要系统记录此对象的原始值，以便在回滚时可以恢复两种实现方式基于软件的STM（SoftwareTransactionalMemory）1993基于硬件的HTM（HardwareTransacationalMemory）1995浙江大学软硬件协同设计实验室多线程讨论话题5几种线程同步机制分别适用于哪些场合浙江大学软硬件协同设计实验室共享变量条件变量RW锁MutexMutex是一个核心对象，可以在不同的线程之间实现“排他性占有”，甚至几十那些现成分属不同进程它是：一个核心对象。如果拥有mutex的那个线程结束，则会产生一个“abandoned”错误信息。可以使用Wait…()等待一个mutex。可以具名，因此可以被其他进程开启。只能被拥有它的那个线程释放（released）浙江大学软硬件协同设计实验室SemaphoreSemaphore被用来追踪有限的资源。它是：一个核心对象。没有拥有者。可以具名，因此可以被其他进程开启。可以被任何一个线程释放（released）。事件Eventobject通常使用于overlappedI/O，或用来设计某些自定义的同步对象。它是：一个核心对象。完全在程序掌控之下。适用于设计新的同步对象。“要求苏醒”的请求并不会被储存起来，可能会遗失掉。可以具名，因此可以被其他进程开启。临界区适用范围是单一进程的各线程之间。它是：一个局部性对象，不是一个核心对象。快速而有效率。不能够同时有一个以上的criticalsection被等待。无法侦测是否已被某个线程放弃。浙江大学软硬件协同设计实验室多线程讨论话题5多线程运行时，如何优化内存管理产生的失效浙江大学软硬件协同设计实验室什么时候访存失效？CachemissPagefault算法设计可以优化cacheStack设计可以优化page内存在哪里Stackinti;Heapnew，malloc预取机制浙江大学软硬件协同设计实验室多线程讨论话题7线程之间通讯机制有哪些，优劣如何浙江大学软硬件协同设计实验室全局变量事件消息硬件是如何实现的？浙江大学软硬件协同设计实验室多线程讨论话题8线程异常终止方法浙江大学软硬件协同设计实验室主执行线程终止了，进程也就随之终止1、在自身内部调用EndThread/Exitthread2、在线程的外部调用TerminateThread来强行终止一个线程的运行然后调用CloseHandle函数释放线程所占用的堆栈一般属于不安全：线程所占用的资源也不释放3、Return改变全局变量，使线程的执行函数返回，则该线程终止28谢谢