Ошибка Hive Metatstore в mysql (через jdbc) - NoClassDefFoundError JdbcUriParseException

Краткое описание проблемы Попытка подключить работающую установку Hive к работающей базе данных mysql для создания hcatalog (известного также как хранилище метаданных) Настроил hive-site.xml, как предписано, и использую Java 8 для различных потоков.

Bash cli для взаимодействия с ульем подтвержден

user@node:hive
Hive Session ID = 66da2903-6e11-43e6-95de-84bf41b1b977

Logging initialized using configuration in jar:file:/home/hadoop/apache-hive-3.1.2-bin/lib/hive-common-3.1.2.jar!/hive-log4j2.properties Async: true
Hive-on-MR is deprecated in Hive 2 and may not be available in the future versions. Consider using a different execution engine (i.e. spark, tez) or using Hive 1.X releases.
hive> _

Mysql успешно подключается от запланированного пользователя

mysql -s -h 192.168.2.40 -u hiveuser -pNEVERYOUMIND
mysql: [Warning] Using a password on the command line interface can be insecure.
mysql>

Попытка построить схему

user@node:~ schematool -dbType mysql -initSchema -verbose
Metastore connection URL:        jdbc:mysql://192.168.2.40:3306/metastore?createDatabaseIfNotExist=true&useSSL=false
Metastore Connection Driver :    com.mysql.jdbc.Driver
Metastore connection User:       hiveuser
Starting metastore schema initialization to 3.1.0
Initialization script hive-schema-3.1.0.mysql.sql
Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hive/jdbc/JdbcUriParseException ...
        at org.apache.hive.beeline.HiveSchemaTool.runBeeLine(HiveSchemaTool.java:1213)
        at org.apache.hive.beeline.HiveSchemaTool.runBeeLine(HiveSchemaTool.java:1204)
        at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:590)
        at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:567)
        at org.apache.hive.beeline.HiveSchemaTool.main(HiveSchemaTool.java:1517)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:236)
Caused by: java.lang.ClassNotFoundException: org.apache.hive.jdbc.JdbcUriParseException
        at java.net.URLClassLoader.findClass(URLClassLoader.java:382)
        at java.lang.ClassLoader.loadClass(ClassLoader.java:418)
        at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:355)
        at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
        ... 11 more

Попытка отладить себя - поиск JdbcUriParseException

Отслеживается по всему Google, чтобы выяснить, где это происходит в коде улья, и только отдаленно близко находится этот модуль - https://github.com/apache/hive/blob/master/beeline/src/java/org/apache/ hive/beeline/BeeLine.java коммит 91ab242 , строка 1190 Но поскольку в моем выводе нет звонков Билайн (возможно, в ... еще 11?), я не могу установить, где параметры (ниже) вызывают проблему.

          try {
            jdbcConnectionParams = Utils.extractURLComponents(jdbcURL, new Properties());
          } catch (JdbcUriParseException e) {

вот hive-site.xml

<configuration>
        <property>
                <name>javax.jdo.option.ConnectionURL</name>
                <value>jdbc:mysql://192.168.2.40:3306/metastore?createDatabaseIfNotExist=true&amp;useSSL=false</value>
                <description>JDBC connect string for a JDBC metastore</description>
        </property>
        <property>
                <name>javax.jdo.option.ConnectionDriverName</name>
                <value>com.mysql.jdbc.Driver</value>
                <description>Driver class name for a JDBC metastore</description>
        </property>
        <property>
                <name>javax.jdo.option.ConnectionUserName</name>
                <value>hiveuser</value>
                <description>username to use against metastore database</description>
        </property>
        <property>
                <name>javax.jdo.option.ConnectionPassword</name>
                <value>NEVERYOUMIND</value>
                <description>password to use against metastore database</description>
        </property>
        <property>
                <name>hive.metastore.uris</name>
                <value>thrift://localhost:9083</value>
        </property>
</configuration>

Пользователь базы данных hiveuser подключается и существует, и он может создавать таблицы при использовании mysql cli и workbench.

Коннектор Java и Mysql Пробовали различные, включая Java 11 и Java 8 - коннектор mysql версии 5 и коннектор 8 - все отображают одинаковые результаты - поэтому я не уверен, что это связано с JDBC - - с благодарностью будет принята другая точка зрения.

Фактическая ошибка: «NoClassDefFoundError». Вы не получаете «JdbcUriParseException». Проблема в том, что JVM не может найти класс "JdbcUriParseException". В: Поскольку вы используете Hive, включили ли вы все зависимости Hive (включая hive-jdbc) в свой проект (например, pom.xml или build.gradle)?

paulsm4 22.12.2020 21:57

Спасибо, paulsm4

irnerd 22.12.2020 22:37
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
Как вычислять биты и понимать побитовые операторы в Java - объяснение с примерами
Как вычислять биты и понимать побитовые операторы в Java - объяснение с примерами
В компьютерном программировании биты играют важнейшую роль в представлении и манипулировании данными на двоичном уровне. Побитовые операции...
Поднятие тревоги для долго выполняющихся методов в Spring Boot
Поднятие тревоги для долго выполняющихся методов в Spring Boot
Приходилось ли вам сталкиваться с требованиями, в которых вас могли попросить поднять тревогу или выдать ошибку, когда метод Java занимает больше...
Полный курс Java для разработчиков веб-сайтов и приложений
Полный курс Java для разработчиков веб-сайтов и приложений
Получите сертификат Java Web и Application Developer, используя наш курс.
2
2
643
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Вам не хватает hive-jdbc jar из пути к классам.

Ищите класс org.apache.hive.jdbc.JdbcUriParseException на https://findjar.com/ *
Этот движок умеет находить банки, содержащие класс.

Вот результаты для исключения class not found: https://findjar.com/class/org/apache/hive/jdbc/JdbcUriParseException.html

*I consider this resource useful for resolving issues like this, I'm not affiliate with the site nor promoting it by any mean

Большое-большое спасибо - оказалось, что это банка, которую посоветовали переместить, потому что на каком-то форуме говорилось, что Hadoop hdfs уже использует ее. Хороший сайт на память - в закладки!

irnerd 22.12.2020 22:28

Не за что :) это тоже много раз решало мои проблемы

fantaghirocco 22.12.2020 22:30

hadoop-mini-clusters<версия>.jar, кажется, действительно содержит его

fantaghirocco 22.12.2020 22:35

Еще раз спасибо! Затем перестаньте понимать нюансы улья и почему загрузка из файла просто создает столбцы нулей -

irnerd 23.12.2020 11:39

Другие вопросы по теме