В моем фрейме данных у меня есть столбец с именем parent_asset_xid
.
Я хочу создать новый столбец parent_asset_sk
, который будет md5(parent_asset_xid)
или 00000000-0000-0000-0000-000000000000
, если parent_asset_xid
- это null
.
Я пробую что-то подобное, но я не уверен, как интегрировать часть md5
в этот
mydf.withColumn(
"parent_asset_sk",
when($"parent_asset_xid".isnull, "00000000-0000-0000-0000-000000000000")
)
Вы покрыли большую часть этого, вам просто нужно добавить otherwise
к вам when
,
val newDF = yourDF.withColumn(
"parent_asset_sk",
when(
col("parent_asset_xid").isNotNull,
md5(col("parent_asset_xid"))
).otherwise(lit("00000000-0000-0000-0000-000000000000"))
)