mongodb hadoop连接器流未运行

p4tfgftt 于 2021-06-04 发布在 Hadoop

关注(0)|答案(1)|浏览(344)

我想启动mongodbhadoop流连接器，所以我下载了hadoop的兼容版本（2.2.0）（请参阅https://github.com/mongodb/mongo-hadoop/blob/master/readme.md#apache-（hadoop-22）
我克隆了git存储库mongohadoop，将build.sbt Hadoop版本更改为2.2：

$ cat build.sbt
name := "mongo-hadoop"

organization := "org.mongodb"

hadoopRelease in ThisBuild := "2.2"

然后我启动了：

$ ./sbt package
$ ./sbt mongo-hadoop-streaming/assembly
$ cp core/target/mongo-hadoop-core_2.2.0-1.2.0.jar ../hadoop-2.2.0/lib/
$ cp mongo-2.7.3.jar ../hadoop-2.2.0/lib/ # Previously downloaded
$ cd ../hadoop-2.2.0/
$ ./bin/hadoop jar ../mongo-hadoop/streaming/target/mongo-hadoop-streaming-assembly-1.1.0.jar -mapper ...

我明白了：

Exception in thread "main" java.lang.ClassNotFoundException: com.mongodb.hadoop.streaming.MongoStreamJob
at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
at java.security.AccessController.doPrivileged(Native Method)
at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
at java.lang.ClassLoader.loadClass(ClassLoader.java:306)
at java.lang.ClassLoader.loadClass(ClassLoader.java:247)
at java.lang.Class.forName0(Native Method)
at java.lang.Class.forName(Class.java:249)
at org.apache.hadoop.util.RunJar.main(RunJar.java:205)

我不明白为什么，我尝试了几乎所有的版本应该支持流，但我总是得到相同的错误！
我在mac os x上。谢谢！

hadoop mongodb hadoop-streaming mongodb-hadoop

来源：https://stackoverflow.com/questions/22230605/mongodb-hadoop-connector-streaming-not-running

1条答案

按热度按时间

ddhy6vgd1#

这实际上是一个将在即将发布的版本中修复的bug。对该主类的需要已被删除，但生成的清单未被删除。您可以通过从流jar的清单中删除主类条目来调整jar。如果您在流媒体jar所在的目录中运行下面的脚本，它将为您修复此问题：


# ! /bin/sh

M=META-INF/MANIFEST.MF
mkdir tmp
cd tmp
cp ../$1 .
JAR=$1

jar xf ${JAR}

sed -e '/Main-Class/d' ${M} >> ${M}.new 
mv ${M}.new  ${M}

jar cvfm ${JAR} ${M}

mv ${JAR} ..
cd ..
rm -r tmp

它不是超级漂亮，但应该能让你渡过难关。我们会尽快推出正式的1.2.1版本。这是jira的罚单：https://jira.mongodb.org/browse/hadoop-121

赞(0）回复(0）举报 2021-06-04

我来回答

mongodb hadoop连接器流未运行

1条答案

相关问题

热门标签

最新问答