Memo

时间:2016-12-22

12月22号,IBM钱XX博士,容天卢X经理,梁X经理赴东南大学交通学院,与刘XX教授并行计算团队交流介绍近期工作。

从今年9月到现在,经过3个多月的工作,钱博士完成了并行计算最短路的工作。其基本思路是在Power处理器上,通过hadoop/spark的方法,利用JNI这个接口,调用用C语言编写的最短路程序。就是,在spark软件中,用Scala编写程序,这个程序通过JNI调用最短路程序(用C语言编写)。这样C程序就可以在Spark上运行。需要注意的是应该想好我们需要的信息,这对程序的调试等都非常有帮助。

在交流中讨论了如下问题:

  1. 在项目中,算法由于堆栈的原因,对内存的要求很高。如果限制内存就会降低效率。但是这限制内存可以同时起多个并行的线程,这里就存在效率优化的问题。
  2. 并行计算最短路是交通网络流问题的核心,如何在此基础上,进一步解决交通网络流问题?一种是用scala/python编写。另一种还是直接通过JNI调用已经编写好的UE问题。初步决定采用第二种方法,计算效率相对较高,可能编程量比较小,但是要改写scala程序。
  3. 最短路运算结果的正确性检验。
  4. 加速性能。两个指标,一个是加速比,二是和普通单机比较。

针对这些问题,我们的任务安排是

  1. 再次检查算法的正确性。
  2. 考虑内存分配的优化问题。
  3. 计算加速比。
  4. 与单机比较。
  5. 在此基础上,解决网络交通流分配问题。
  6. 考察加速比等性能指标。

你可能感兴趣的:(Memo)