Самый быстрый способ записать Df в паркетный файл на s3

Я читаю данные таблицы с сервера sql и сохраняю их как Dataframe в искре. Я хочу записать обратно df в паркетный файл в s3, так как таблица имеет около 30 столбцов и 204 миллиона строк, прямо сейчас с помощью Spark. 25-30 минут, чтобы записать обратно в s3 как паркетный файл, есть ли самый быстрый способ сделать то же самое?

Редактировать-1 Предложите мне, если у вас есть лучший подход к тому же самому, вместо прямой искры.

Вы можете попробовать увеличить количество разделов при записи - в зависимости от ваших настроек это может быть быстрее.

Shaido 31.10.2018 10:51

Каким может быть оптимальное количество разделов и есть ли другой способ сделать то же самое?

Sundeep Pidugu 31.10.2018 11:01

Трудно сказать, может это поможет составить представление: stackoverflow.com/questions/39381041/…

Shaido 31.10.2018 11:02

Также ограничивающим фактором может быть исходный SQL-сервер: если вы откроете слишком много подключений к нему, то есть разделов, у него может не хватить ресурсов для достаточно быстрого выпуска данных, и большинство ваших исполнителей могут просто бездействовать. Если вы примете во внимание транзакцию на исходном сервере sql, то соединения могут быть заблокированы блокировками транзакций. Вы можете провести серию экспериментов: сначала запустить только с одним исполнителем и указать, сколько времени потребуется, если больше 25 минут, увеличить количество исполнителей и сравнить время, если оно перестало уменьшаться, вы достигли предела БД. Также проверьте статистику БД.

alexeipab 31.10.2018 11:25

Это может быть классический случай «Паркетный налог», я наткнулся на него ранее с Spark. Чтобы преодолеть это, мне пришлось прибегнуть к записи данных на HDFS, а затем distcp, переписав их на S3. Также см. Spark DirectOutputCommiter.

y2k-shubham 31.10.2018 12:18
Стоит ли изучать PHP в 2023-2024 годах?
Стоит ли изучать PHP в 2023-2024 годах?
Привет всем, сегодня я хочу высказать свои соображения по поводу вопроса, который я уже много раз получал в своем сообществе: "Стоит ли изучать PHP в...
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
В JavaScript одним из самых запутанных понятий является поведение ключевого слова "this" в стрелочной и обычной функциях.
Приемы CSS-макетирования - floats и Flexbox
Приемы CSS-макетирования - floats и Flexbox
Здравствуйте, друзья-студенты! Готовы совершенствовать свои навыки веб-дизайна? Сегодня в нашем путешествии мы рассмотрим приемы CSS-верстки - в...
Тестирование функциональных ngrx-эффектов в Angular 16 с помощью Jest
В системе управления состояниями ngrx, совместимой с Angular 16, появились функциональные эффекты. Это здорово и делает код определенно легче для...
Концепция локализации и ее применение в приложениях React ⚡️
Концепция локализации и ее применение в приложениях React ⚡️
Локализация - это процесс адаптации приложения к различным языкам и культурным требованиям. Это позволяет пользователям получить опыт, соответствующий...
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
0
5
1 459
0

Другие вопросы по теме