Краткое описание проблемы Попытка подключить работающую установку Hive к работающей базе данных mysql для создания hcatalog (известного также как хранилище метаданных) Настроил hive-site.xml, как предписано, и использую Java 8 для различных потоков.
Bash cli для взаимодействия с ульем подтвержден
user@node:hive
Hive Session ID = 66da2903-6e11-43e6-95de-84bf41b1b977
Logging initialized using configuration in jar:file:/home/hadoop/apache-hive-3.1.2-bin/lib/hive-common-3.1.2.jar!/hive-log4j2.properties Async: true
Hive-on-MR is deprecated in Hive 2 and may not be available in the future versions. Consider using a different execution engine (i.e. spark, tez) or using Hive 1.X releases.
hive> _
Mysql успешно подключается от запланированного пользователя
mysql -s -h 192.168.2.40 -u hiveuser -pNEVERYOUMIND
mysql: [Warning] Using a password on the command line interface can be insecure.
mysql>
Попытка построить схему
user@node:~ schematool -dbType mysql -initSchema -verbose
Metastore connection URL: jdbc:mysql://192.168.2.40:3306/metastore?createDatabaseIfNotExist=true&useSSL=false
Metastore Connection Driver : com.mysql.jdbc.Driver
Metastore connection User: hiveuser
Starting metastore schema initialization to 3.1.0
Initialization script hive-schema-3.1.0.mysql.sql
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hive/jdbc/JdbcUriParseException ...
at org.apache.hive.beeline.HiveSchemaTool.runBeeLine(HiveSchemaTool.java:1213)
at org.apache.hive.beeline.HiveSchemaTool.runBeeLine(HiveSchemaTool.java:1204)
at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:590)
at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:567)
at org.apache.hive.beeline.HiveSchemaTool.main(HiveSchemaTool.java:1517)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
at org.apache.hadoop.util.RunJar.main(RunJar.java:236)
Caused by: java.lang.ClassNotFoundException: org.apache.hive.jdbc.JdbcUriParseException
at java.net.URLClassLoader.findClass(URLClassLoader.java:382)
at java.lang.ClassLoader.loadClass(ClassLoader.java:418)
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:355)
at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
... 11 more
Попытка отладить себя - поиск JdbcUriParseException
Отслеживается по всему Google, чтобы выяснить, где это происходит в коде улья, и только отдаленно близко находится этот модуль - https://github.com/apache/hive/blob/master/beeline/src/java/org/apache/ hive/beeline/BeeLine.java коммит 91ab242 , строка 1190 Но поскольку в моем выводе нет звонков Билайн (возможно, в ... еще 11?), я не могу установить, где параметры (ниже) вызывают проблему.
try {
jdbcConnectionParams = Utils.extractURLComponents(jdbcURL, new Properties());
} catch (JdbcUriParseException e) {
вот hive-site.xml
<configuration>
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://192.168.2.40:3306/metastore?createDatabaseIfNotExist=true&useSSL=false</value>
<description>JDBC connect string for a JDBC metastore</description>
</property>
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
<description>Driver class name for a JDBC metastore</description>
</property>
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>hiveuser</value>
<description>username to use against metastore database</description>
</property>
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>NEVERYOUMIND</value>
<description>password to use against metastore database</description>
</property>
<property>
<name>hive.metastore.uris</name>
<value>thrift://localhost:9083</value>
</property>
</configuration>
Пользователь базы данных hiveuser подключается и существует, и он может создавать таблицы при использовании mysql cli и workbench.
Коннектор Java и Mysql Пробовали различные, включая Java 11 и Java 8 - коннектор mysql версии 5 и коннектор 8 - все отображают одинаковые результаты - поэтому я не уверен, что это связано с JDBC - - с благодарностью будет принята другая точка зрения.
Спасибо, paulsm4
Вам не хватает hive-jdbc
jar из пути к классам.
Ищите класс org.apache.hive.jdbc.JdbcUriParseException
на https://findjar.com/ *
Этот движок умеет находить банки, содержащие класс.
Вот результаты для исключения class not found: https://findjar.com/class/org/apache/hive/jdbc/JdbcUriParseException.html
*I consider this resource useful for resolving issues like this, I'm not affiliate with the site nor promoting it by any mean
Большое-большое спасибо - оказалось, что это банка, которую посоветовали переместить, потому что на каком-то форуме говорилось, что Hadoop hdfs уже использует ее. Хороший сайт на память - в закладки!
Не за что :) это тоже много раз решало мои проблемы
hadoop-mini-clusters<версия>.jar, кажется, действительно содержит его
Еще раз спасибо! Затем перестаньте понимать нюансы улья и почему загрузка из файла просто создает столбцы нулей -
Фактическая ошибка: «NoClassDefFoundError». Вы не получаете «JdbcUriParseException». Проблема в том, что JVM не может найти класс "JdbcUriParseException". В: Поскольку вы используете Hive, включили ли вы все зависимости Hive (включая hive-jdbc) в свой проект (например, pom.xml или build.gradle)?