CUDA 异构编程和MPI并行机制应该怎样研究这两者之间应该咋结合
Cuda-aware mpi已经对cuda支持的不错了，infiniband，gpudirect都已经加入了支持。现在用的比较多的是opempi和ohio的mvapich。本质上写cuda mpi程序跟普通mpi程序没有区别，但是gpu体系结构的复杂性，会让开发者要把更多精力花在系统层面的调优上，比如gpu对操作时序的敏感度会很高，不同的程序排序会严重影响到程序性能，单机多卡的协同跟多机之间理论上是正交的\u0026#39;但是还是存在一些leaky的问题需要工程师去补位，比如对于pcie资源的竞争。找本好书，通读一遍吧，挺多的了。
■网友
谢邀；只想说两点：（1）不谈应用背景直接问方案的都是耍流氓（2）科研项目不要天天抱着现成技术搞创新
■网友
NVIDIA CUDA开发者系列培训之六 MPI 与GPU多进程编程
■网友
mpi和cuda是两个组件的结合。mpi专心做好数据交换的工作；cuda用来专心做好数据计算的功能。早期时候，2013年之前，数据交换其实就是简单的数据拷贝，将内存中的数据拷贝到cuda的存储中来计算，需要交换的时候，将cuda中的数据拷贝到内存中。现在应该是在这方面进行了优化工作。
推荐阅读
- dart这编程语言现在发展怎么样了，语法与Java，c#很相似，甚至更简洁
- 有点计算机基础的人想尽快找份编程的工作。哪种编程的工作最好找还需要学些啥
- 作为软件工程大二的学生，学习一般，编程一般，毕业后能干些啥
- 30岁的人生，想自学一门编程并从事，这个选择怎样呢
- 电子编程书可以边看边练习，价值大吗
- 自学编程知识是自己啃书加实践好还是看视频加实践好好
- 马云说的大数据时代到底是，用到啥技术，如果想要学习大数据技术，要学习哪些基础的东西要先会编程么
- 不懂技术的加班狗，怎样去学习一门技术，例如编程，如果发现培养不了这种兴趣何时该放弃，何时该继续坚持
- 外省到广州工作，本二，有一年时间了，工资提不上去，晚上想了很多，现在想辞职去学编程，有啥建议吗
- 自学编程多久可以找工作