《共享内存编程模型》由会员分享,可在线阅读,更多相关《共享内存编程模型(8页珍藏版)》请在金锄头文库上搜索。
1、共享内存编程模型,Cilk,Cilk C语言扩展 任务并行编程模型 spawn派生任务 sync等待任务完成,Cilk,程序员描述程序中潜在的并行任务,由运行时系统负责把任务映射到线程(任务比线程更高层的抽象) 使用work stealing技术保证负载平衡 串行语义:cilk程序可以对应一个串行程序,并和该串行程序的行为保持一致 适合表达具有递归本质的并行算法,如分治 无法表达不具备串行语义的并行模式 生产者/消费者、流水线并行、消息传递,任务,线程,处理器,运行时系统,操作系统,OpenMP,OpenMP 共享内存编程模型的事实工业标准 使用编译制导指令的语言扩展 基于c/fortran中
2、规则循环的数据并行+部分简单的任务并行 3.0规范 增加了对任务并行描述的编译制导(omp task) 类似Cilk的表达方式,可以表达更复杂的任务并行模式 由面向线程编程向面向任务编程过渡 NUMA支持(migrate_next_touch):将指定数据迁移到与下一次访问该数据的线程亲和的内存中,TBB,Intel Threading Building Block C+模板库,非语言扩展 底层提供任务并行支持 work stealing、运行时负载均衡 提供task spawn、task wait操作 高层提供并行算法模板库(通过任务实现) 规则循环的数据并行parallel_for 数据规约parallel_reduce 流水线并行 并行容器库 并行内存分配器,共享内存编程模型,数据并行与任务并行对比 数据并行:简单直观,可扩展性好 任务并行:相对较复杂,可扩展性受程序中可并行的任务数量限制 共享内存编程模型的发展趋势 同时支持数据并行和任务并行 数据并行的粒度自动选择 由面向线程的编程转为面向更高层抽象的任务编程 由运行时系统负责任务调度,保证负载均衡,优化局部性,共享内存编程模型,在异构众核平台上应用共享内存编程模型 为保证可扩展性,应将重点放在数据并行的支持与优化上 现有的共享内存编程模型都基于线性存储模型,与异构平台上的层次存储模型不对应,