Сериализация Spark с ошибкой Kryo

Локально

Я успешно запустил приложение Spark локально. Для этого я запустил на своей машине искрового мастера и рабочего. Затем я выполняю spark-submit (выполнение было успешным).

Производство

При передаче моей работы в производство одно и то же приложение запускалось на нескольких машинах на AWS, и выполнение не удавалось.

Ошибка

java.lang.IllegalArgumentException: Class is not registered: scala.collection.immutable.MapLike$ImmutableDefaultKeySet

Вопросов

В чем разница между «Локально» и «Производство»? Можно ли смоделировать поведение «Производство» на моей машине, чтобы избежать сбоев в будущем?

Вы уверены, что используете одну и ту же версию Spark и Scala в локальной и рабочей среде?

Vladislav Varslavans 29.05.2018 15:50

Да, это то же самое :)

Theophile Champion 30.05.2018 13:45
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
Как вычислять биты и понимать побитовые операторы в Java - объяснение с примерами
Как вычислять биты и понимать побитовые операторы в Java - объяснение с примерами
В компьютерном программировании биты играют важнейшую роль в представлении и манипулировании данными на двоичном уровне. Побитовые операции...
Поднятие тревоги для долго выполняющихся методов в Spring Boot
Поднятие тревоги для долго выполняющихся методов в Spring Boot
Приходилось ли вам сталкиваться с требованиями, в которых вас могли попросить поднять тревогу или выдать ошибку, когда метод Java занимает больше...
Полный курс Java для разработчиков веб-сайтов и приложений
Полный курс Java для разработчиков веб-сайтов и приложений
Получите сертификат Java Web и Application Developer, используя наш курс.
0
2
60
0

Другие вопросы по теме