优化Java调用Nashorn引擎的性能
之前的项目里面大量使用了Nashorn引擎，目的是很多需要动态执行的代码放到了JavaScript里面，这样在用户那边比较好调试。但是因为性能的问题遇到了几个坑，最后经过一段时间，最终解决了，形成了这篇文章。
使用预编译JS来加速
在实际的应用中，基本上JS是不变的，变的只是调用的参数。于是乎可以通过预编辑，来进行加速。这样可以省略每次编译的耗时。代码如下。
String script = " var x = a + 1; " +
" var y = x * 2 + m; " +
" var z = y * 3 - n; " +
" z;" +
final CompiledScript compiled = ((Compilable)scriptEngine).compile(script);
调用的时候，可以直接
try {
Bindings bindings = new SimpleBindings();
bindings.put("a", v);
bindings.put("m", v + 1);
bindings.put("n", v + 2) ;
o = (Double)compiled.eval(bindings);
} catch (ScriptException e) {
e.printStackTrace();
}
预编辑JS遇到的问题
这样的写法是没有问题的，但是在压力比较大的时候，CPU比较高，还是比较慢。经过跟踪，发现大量的时间浪费在JDK初始化Nashorn的执行上下文了。
经过查看JDK的源代码，Nashorn里面其实提供了共享上下文的方法。修改代码为：
NashornScriptEngineFactory factory = null;
for (ScriptEngineFactory f : sm.getEngineFactories()) {
if (f.getEngineName().equalsIgnoreCase("Oracle Nashorn")) {
factory = (NashornScriptEngineFactory)f;
break;
}
}
String[] stringArray = new String[]{"-doe", "--global-per-engine"};
ScriptEngine scriptEngine = factory.getScriptEngine(stringArray);
final CompiledScript compiled = ((Compilable)scriptEngine).compile(script);
主要的是初始化参数中的--global-per-engine这个参数。
但是这样写，在并发执行的时候，会遇到问题。测试代码如下：
public class TestScript1 {
static ExecutorService pool = Executors.newCachedThreadPool();
static String script = " var x = a + 1; " +
" var y = x * 2 + m; " +
" var z = y * 3 - n; " +
" z;";
public static void main(String[] argu) throws ScriptException {
ScriptEngineManager sm = new ScriptEngineManager();
NashornScriptEngineFactory factory = null;
for (ScriptEngineFactory f : sm.getEngineFactories()) {
if (f.getEngineName().equalsIgnoreCase("Oracle Nashorn")) {
factory = (NashornScriptEngineFactory)f;
break;
}
}
String[] stringArray = new String[]{"-doe", "--global-per-engine"};
ScriptEngine scriptEngine = factory.getScriptEngine(stringArray);
final CompiledScript compiled = ((Compilable)scriptEngine).compile(script);
long l0 = System.currentTimeMillis();
AtomicInteger counter = new AtomicInteger();
for (int i=0; i<1024; i++) {
final int v = i;
pool.submit(() -> {
Bindings bindings = new SimpleBindings();
bindings.put("a", v);
bindings.put("m", v + 1);
bindings.put("n", v + 2) ;
int expected = getExpected(v, v + 1, v + 2);
Double o = null;
try {
o = (Double)compiled.eval(bindings);
if (o.intValue() == (expected)) {
// System.out.println("OK " + o);
counter.incrementAndGet();
} else {
System.err.println("FAILED!!!" + o + " " + (v + 1));
}
} catch (ScriptException e) {
e.printStackTrace();
}
});
}
pool.shutdown();
try {
boolean r = pool.awaitTermination(5, TimeUnit.SECONDS);
System.out.println("Terminated " + r);
} catch (InterruptedException e) {
e.printStackTrace();
}
long l1 = System.currentTimeMillis();
System.out.println(l1 - l0 + " ms");
System.out.println("Total OK = " + counter.intValue());
}
private static int getExpected(int a, int m, int n) {
int x = a + 1;
int y = x * 2 + m;
int z = y * 3 - n;
return z;
}
}
在上面的代码中，同时启动1024个线程进行模拟计算，同时和期望的值进行比较（一个JS版本，一个Java版本）。最后发现结果大部分都错了。为什么？
原因是，测试的JS是上下文相关的。
观察下JS，其中有三个上下文中的变量：a, m, n.
var x = a + 1;
var y = x * 2 + m;
var z = y * 3 - n;
这三个变量是通过Java代码中的
Bindings bindings = new SimpleBindings();
bindings.put("a", v);
bindings.put("m", v + 1);
bindings.put("n", v + 2) ;
来设置的。那么自然的，多线程执行的时候，后面的调用就有可能覆盖前面的调用。所以JS在执行的过程中，值乱套了。
解决并发的问题
经过尝试，上面并发的问题可以用下面的方式来解决。
首先，将值包装在一个参数对象中。
Map parameters = new HashMap<>();
parameters.put("b", v);
parameters.put("c", v + 1);
parameters.put("d", v + 2) ;
bindings.put("parameters", parameters);
其次，也是最重要的，要保证JS的代码是上下文无关代码（只和调用参数相关，和全局变量无关）
static String script = "function xx(a, m, n) { " +
" var x = a + 1; " +
" var y = x * 2 + m; " +
" var z = y * 3 - n; " +
" return z;" +
"} " +
"xx(parameters.b, parameters.c, parameters.d);";
如上，这段Script的结果只和调用时传入的参数有关，和其它的无关。
整个测试程序如下：
public class TestPoolledScript {
static ExecutorService pool = Executors.newCachedThreadPool();
static String script = "function xx(a, m, n) { " +
" var x = a + 1; java.lang.Thread.sleep(2); " +
" var y = x * 2 + m; java.lang.Thread.sleep(3);" +
" var z = y * 3 - n; java.lang.Thread.sleep(1);" +
" return z;" +
"} " +
"xx(parameters.b, parameters.c, parameters.d);";
public static void main(String[] argu) throws ScriptException {
ScriptEngineManager sm = new ScriptEngineManager();
NashornScriptEngineFactory factory = null;
for (ScriptEngineFactory f : sm.getEngineFactories()) {
if (f.getEngineName().equalsIgnoreCase("Oracle Nashorn")) {
factory = (NashornScriptEngineFactory)f;
break;
}
}
String[] stringArray = new String[]{"-doe", "--global-per-engine"};
ScriptEngine scriptEngine = factory.getScriptEngine(stringArray);
final CompiledScript compiled = ((Compilable)scriptEngine).compile(script);
long l0 = System.currentTimeMillis();
AtomicInteger counter = new AtomicInteger();
for (int i=0; i<1024; i++) {
final int v = i;
pool.submit(() -> {
Bindings bindings = new SimpleBindings();
Map parameters = new HashMap<>();
parameters.put("b", v);
parameters.put("c", v + 1);
parameters.put("d", v + 2) ;
bindings.put("parameters", parameters);
int expected = getExpected(v, v + 1, v + 2);
Double o = null;
try {
o = (Double)compiled.eval(bindings);
if (o.intValue() == (expected)) {
// System.out.println("OK " + o);
counter.incrementAndGet();
} else {
System.err.println("FAILED!!!" + o + " " + (v + 1));
}
} catch (ScriptException e) {
e.printStackTrace();
}
});
}
pool.shutdown();
try {
boolean r = pool.awaitTermination(5, TimeUnit.SECONDS);
System.out.println("Terminated " + r);
} catch (InterruptedException e) {
e.printStackTrace();
}
long l1 = System.currentTimeMillis();
System.out.println(l1 - l0 + " ms");
System.out.println("Total OK = " + counter.intValue());
}
private static int getExpected(int a, int m, int n) {
int x = a + 1;
int y = x * 2 + m;
int z = y * 3 - n;
return z;
}
}
这样的结果是完全正确的。
在我的机器上执行效率是之前的写法（没有加--global-per-engine）的四到五倍。
没有加--global-per-engine 1024个线程并发大概是2秒钟。
加上之后大概是500毫秒。
总结
最后，我们可以通过下面的方式来提高Nashorn执行JS的性能：
- 使用预编译；
- 使用--global-per-engine参数，同时修改JS代码，做到上下文无关。