Укажите схему фрейма данных pyspark со строкой длиной более 256

Я читаю источник, в котором описания длиннее 256 символов. Я хочу написать их в Redshift.

Согласно: https://github.com/databricks/spark-redshift#configuring-the-maximum-size-of-string-columns это возможно только в Scala.

Согласно этому: https://github.com/databricks/spark-redshift/issues/137#issuecomment-165904691 это должен быть обходной путь, чтобы указать схему при создании фрейма данных. Я не могу заставить его работать.

Как я могу указать схему с помощью varchar (max)?

df = ...from source

schema = StructType([
    StructField('field1', StringType(), True),
    StructField('description', StringType(), True)
])

df = sqlContext.createDataFrame(df.rdd, schema)
Стоит ли изучать PHP в 2023-2024 годах?
Стоит ли изучать PHP в 2023-2024 годах?
Привет всем, сегодня я хочу высказать свои соображения по поводу вопроса, который я уже много раз получал в своем сообществе: "Стоит ли изучать PHP в...
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
В JavaScript одним из самых запутанных понятий является поведение ключевого слова "this" в стрелочной и обычной функциях.
Приемы CSS-макетирования - floats и Flexbox
Приемы CSS-макетирования - floats и Flexbox
Здравствуйте, друзья-студенты! Готовы совершенствовать свои навыки веб-дизайна? Сегодня в нашем путешествии мы рассмотрим приемы CSS-верстки - в...
Тестирование функциональных ngrx-эффектов в Angular 16 с помощью Jest
В системе управления состояниями ngrx, совместимой с Angular 16, появились функциональные эффекты. Это здорово и делает код определенно легче для...
Концепция локализации и ее применение в приложениях React ⚡️
Концепция локализации и ее применение в приложениях React ⚡️
Локализация - это процесс адаптации приложения к различным языкам и культурным требованиям. Это позволяет пользователям получить опыт, соответствующий...
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
1
0
2 911
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Аннотации Redshift maxlength передаются в формате

{"maxlength":2048}

Итак, это структура, которую вы должны передать конструктору StructField:

from pyspark.sql.types import StructField, StringType

StructField("description", StringType(), metadata = {"maxlength":2048})

или метод псевдонима:

from pyspark.sql.functions import col

col("description").alias("description", metadata = {"maxlength":2048})

Если вы используете PySpark 2.2 или более раннюю версию, проверьте Как изменить метаданные столбца в pyspark? для обходного пути.

Установив это как правильный ответ, даже несмотря на то, что я еще не заставил его работать, он отвечает на мой вопрос. По словам docs.databricks.com/spark/latest/data-sources/aws/…, теперь он также должен работать на python (Databricks недавно закрыли исходный код проекта искрового красного смещения)

user1217169 07.09.2018 12:17

Другие вопросы по теме