HIVE UDF 运行提示 Java .lang.NoClassDefFoundError 错误

This topic created in 3158 days ago, the information mentioned may be changed or developed.

使用 Java 写了一个 UDF，然后添加到 Hive 临时函数，运行下面语句可以正常使用

select func_name(xxx) from table_name where xx

但是假如使用下面语句就会提示 java.lang.NoClassDefFoundError 错误

select count(*) from table_name where func_name(xxx)=xxx

或

select count(func_name(xxx)) from table_name

错误提示如下：

Caused by: java.lang.RuntimeException: Map operator initialization failed
        at org.apache.hadoop.hive.ql.exec.tez.MapRecordProcessor.init(MapRecordProcessor.java:293)
        at org.apache.hadoop.hive.ql.exec.tez.TezProcessor.initializeAndRunProcessor(TezProcessor.java:171)
        ... 14 more
Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: java.lang.NoClassDefFoundError: org/bouncycastle/jce/provider/BouncyCastleProvider
        at org.apache.hadoop.hive.ql.exec.FilterOperator.initializeOp(FilterOperator.java:73)
        at org.apache.hadoop.hive.ql.exec.vector.VectorFilterOperator.initializeOp(VectorFilterOperator.java:71)
        at org.apache.hadoop.hive.ql.exec.Operator.initialize(Operator.java:355)
        at org.apache.hadoop.hive.ql.exec.Operator.initialize(Operator.java:504)
        at org.apache.hadoop.hive.ql.exec.Operator.initializeChildren(Operator.java:457)
        at org.apache.hadoop.hive.ql.exec.Operator.initialize(Operator.java:365)
        at org.apache.hadoop.hive.ql.exec.MapOperator.initializeMapOperator(MapOperator.java:498)
        at org.apache.hadoop.hive.ql.exec.tez.MapRecordProcessor.init(MapRecordProcessor.java:262)
        ... 15 more
Caused by: java.lang.NoClassDefFoundError: org/bouncycastle/jce/provider/BouncyCastleProvider
        at java.lang.Class.forName0(Native Method)
        at java.lang.Class.forName(Class.java:348)
        at org.apache.hadoop.hive.ql.udf.generic.GenericUDFBridge.getUdfClass(GenericUDFBridge.java:130)
        at org.apache.hadoop.hive.ql.exec.FunctionRegistry.isStateful(FunctionRegistry.java:1352)
        at org.apache.hadoop.hive.ql.exec.ExprNodeGenericFuncEvaluator.<init>(ExprNodeGenericFuncEvaluator.java:110)
        at org.apache.hadoop.hive.ql.exec.ExprNodeEvaluatorFactory.get(ExprNodeEvaluatorFactory.java:51)
        at org.apache.hadoop.hive.ql.exec.ExprNodeGenericFuncEvaluator.<init>(ExprNodeGenericFuncEvaluator.java:100)
        at org.apache.hadoop.hive.ql.exec.ExprNodeEvaluatorFactory.get(ExprNodeEvaluatorFactory.java:51)
        at org.apache.hadoop.hive.ql.exec.FilterOperator.initializeOp(FilterOperator.java:65)
        ... 22 more

开始是 MapReduce 引擎，后来尝试换到 Tez，都是同样到错误，哪位遇到过这种问题，求解答。

Supplement 1 · Sep 20, 2017

UDF的jar包使用下面命令生成的：

javac  -classpath xxx.jar:yyy.jar zzz.java

jar cvf zzz.jar zzz.class

生成的jar包没有包含用到的 xxx.jar yyy.jar这些第三方包

Supplement 2 · Sep 20, 2017

eclipse 打包了用的的 jar 包，目前看来也不行…

7 replies • 2017-09-23 02:09:30 +08:00

qiyuey

Sep 19, 2017

检查依赖是否缺失

oaix

Sep 19, 2017

是不是第三方的包没打到 jar 里面？
如果用 gradle，使用 https://github.com/johnrengelman/shadow 这个插件打包。
如果用 maven，用这个： https://github.com/johnrengelman/shadow

linuxchild

Sep 20, 2017

@oaix

第三方的包的确是没有打到 jar 包中，不过 jar 包内存的是编译后的 class 文件，这样有影响么？

linuxchild

Sep 20, 2017

@oaix 同时编译的时候已经指定了使用的 jar 包

linuxchild

Sep 20, 2017

@qiyuey 依赖缺失会存在部分命令可执行的情况么？刚接触 Hive 和 Java 这些，有点迷糊

oaix

Sep 20, 2017

@linuxchild 所以你需要使用我上面说的插件来把第三方包都打到 jar 包里面。

linuxchild

Sep 23, 2017

@oaix 话说使用 eclipse 打了一个 jar 包，也不行 - -