13.2 越过C和C++
对于很多开发者来说,他们会选择C和C++作为开发语言。其他的一些开发者则可能会选择别的编程语言,我们所知的很多软件是使用Java或Python开发的。这些更高级的语言有更高的生产力,通常会提供很多必要的特性(比如,垃圾收集),这些语言在前端的开发者中更加好用。这些语言还有一种特点,可移植性特别好,想想Java的口号“一次编写,处处可用”,这样开发者就不需要为一些系统底层的问题而困扰。不过,由于无法接近底层,我们用这样语言编写出来的程序,性能无法达到最佳。
为了弥补性能鸿沟,并且不需要将很多已有库使用这类语言重新再写一遍。我们这里会使用外部函数接口(FFI,foreignfunctioninterface),其可以让应用调用使用C和C++(或其他低层语言)编写的原生库。例如,Java提供了Java原生接口,Python也有同样的机制。当然,Java和Python也有已经包装好的OpenCL库(JOCL(Java bindings for OpenCL)[1], PyOpenCL[2]),可以让开发者直接调用。这种模型的确是非常底层,并且这种模型能够管理应用运行库,还有(库内无管理的)OpenCL原生代码库。为了展示这种代码的特点,代码清单13.1中展示了一个PyOpenCL版本的向量相加。
{%ace edit=false, lang=’python’%} import pyopencl as cl import numpy import numpy.linalg as la
a = numpy.random.rand(50000).astype(numpy.float32) b = numpy.random.rand(50000).astype(numpy.float32)
ctx = cl.create_some_context() queue = cl.CommandQueue(ctx)
mf = cl.mem_flags a_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = a) b_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = b)
prg = cl.Program(ctx, “”” kernel void vecadd(global const float a, __global const float b, __global float *c){ int gid = get_global_id(0); c[gid] = a[gid] + b[gid]; } “””).build()
prg.vecadd(queue, a.shape, None, a_buf, b_buf, dest_buf);
a_plus_b = numpy.empty_like(a) cl.enqueue_copy(queue, a_plus_b, dest_buf)
print la.norm(a_plus_b - (a + b))
<!-- {%endace%} -->
代码清单13.1 PyOpenCL实现的向量相加
下面的例子使用同样的一种包装API——Aparapi[3]——进行实现(之前是由AMD主导进行开发,不过现在已经是一款开源项目)。Aparapi允许Java开发者使用GPU,将一些可以进行数据并行的代码段放到GPU上运行。Aparapi运行时为了使用GPU,会将这部分代码写入Java字节码中。如果,因为某些原因Aparapi无法运行在GPU上,其会使用Java线程池进行数据并发的处理。Aparapi的意义在于,保持Java语言的语法,并发其精神。下面我们还会用向量相加展示Aparapi的使用方式(代码清单13.2),其会调用OpenCL C代码或调用OpenCL的API。
{%ace edit=false, lang='java'%}
package com.amd.aparapi.sample.add;
import com.amd.aparapi.Kernel;
import com.amd.aparapi.Range;
public class Main{
public static void main(String[] _args){
final int size = 512;
final float[] a = new float[size];
final float[] b = new float[size];
for (int i = 0; i < size; i++){
a[i] = (float)(Math.random()*100);
b[i] = (float)(Math.random()*100);
}
final float[] sum = new float[size];
Kenrel kernel = new Kernel(){
@Override public void run(){
int gid = getGlobalId();
sum[gid] = a[gid] + b[gid];
}
};
kernel.execute(Range.create(512));
for (int i = 0; i < size; i++){
System.out.printf("%6.2f + %6.2f = %8.2f\n", a[i], b[i], sum[i]);
}
kernel.dispose();
}
}
代码清单13.2 使用Aparapi实现的OpenCL,在Java中实现的向量相加
另外,Aparapi开发者要是用OpenCL,需要创建出一个Aparapi类的实例,在运行时重载内核函数的实现(内核函数可被动态编译),从而产生对应的Java字节码。
Aparapi通常会嵌入一些特定领域专属语言(DSL,domain-specific language)中,主机端编码语言可以是另外一种语言(本例中主机端是Java)。DSL专注于为该领域的专家提供相应接口,并且DLS通常会为给定的学术领域提供一组特定的特性——例如,医学图像。本例中,使用的领域是通用计算,实现的功能是数据并行计算。
[1] Java bindings for OpenCL(JOCL), 2012, http://www.jocl.org
[2] A.Klöckner, PyOpenCL, 2012, http://mathema.tician.de/software/pyopencl
[3] Aparapi, 2012, http://Aparapi.googlecode.com