Локально
Я успешно запустил приложение Spark локально. Для этого я запустил на своей машине искрового мастера и рабочего. Затем я выполняю spark-submit (выполнение было успешным).
Производство
При передаче моей работы в производство одно и то же приложение запускалось на нескольких машинах на AWS, и выполнение не удавалось.
Ошибка
java.lang.IllegalArgumentException: Class is not registered: scala.collection.immutable.MapLike$ImmutableDefaultKeySet
Вопросов
В чем разница между «Локально» и «Производство»? Можно ли смоделировать поведение «Производство» на моей машине, чтобы избежать сбоев в будущем?
Да, это то же самое :)




Вы уверены, что используете одну и ту же версию Spark и Scala в локальной и рабочей среде?