У меня есть фрейм данных, и я хочу сгруппировать его по одному столбцу и одновременно применить к нему множество функций. К сожалению, на это уходит слишком много времени. Мне нужно какое-то десятикратное улучшение. Я читал о векторизации, но теряю многие возможности pandas.
Это мой подход, сначала я определяю все необходимые мне функции:
def f(x):
d = {}
d['min_min_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].min()
d['max_max_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].max()
d['sum_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].sum()
d['avg_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].mean()
d['std_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].std()
d['sum_approved_tpn'] = x['scoring_dol_amount'][x['payment_status']=='approved'].count()
d['sum_rejected_tpn'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].count()
d['sum_rejected_tpn_hr'] = x['scoring_dol_amount'][x['payment_status_detail']=='cc_rejected_high_risk'].count()
d['sum_rejected'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].sum()
d['sum_rejected_hr'] = x['scoring_dol_amount'][x['payment_status_detail']=='cc_rejected_high_risk'].sum()
d['avg_rejected'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].mean()
d['std_rejected'] = x['scoring_dol_amount'][x['payment_status']=='approved'].std()
d['sum_late_hours'] = x['scoring_dol_amount'][(x['payment_date_created'].dt.hour >=23) | (x['payment_date_created'].dt.hour <=6)].count()
#d['ratio_receive'] = (x['scoring_dol_amount'][x['payment_status']=='approved'].sum())/(x['scoring_dol_amount'][x['payment_status']=='rejected'].sum()+x['scoring_dol_amount'][x['payment_status']=='approved'].sum())
#d['ratio_receive_tpn'] = (x['scoring_dol_amount'][x['payment_status']=='approved'].count())/(x['scoring_dol_amount'][x['payment_status']=='rejected'].count()+x['scoring_dol_amount'][x['payment_status']=='approved'].count())
#d['distinct_tc']= x['tc'].nunique()
#d['distinct_doc']= x['payer_identification_number'].nunique()
#d['ratio_tc']= (x['tc'].nunique())/(x['scoring_dol_amount'][x['payment_status']=='approved'].count())
#d['ratio_doc']= (x['payer_identification_number'].nunique())/(x['scoring_dol_amount'][x['payment_status']=='approved'].count())
return pd.Series(d, index=['min_min_approved', 'max_max_approved', 'sum_approved', 'avg_approved','std_approved','sum_approved_tpn','sum_rejected_tpn','sum_rejected_tpn_hr','sum_rejected','sum_rejected_hr','avg_rejected','std_rejected','sum_late_hours'])#,'ratio_receive','ratio_receive_tpn','distinct_tc','distinct_doc','ratio_tc','ratio_doc'])
И я применяю это так:
dataset_recibido=dataset_recibido.set_index('cust_id')
dataset_recibido.groupby(dataset_recibido.index).apply(f)
Как я могу это ускорить?
Вы пробовали помещать повторяющиеся части кода в разные переменные?






Похоже, вы что-то построили, уже включенное в pandas. Только столбцы groupby() cust_id и payment_status, по которым вы в настоящее время фильтруете, и используйте agg().
dataset_recibido.groupby(['cust_id','payment_status']])\
.agg(['count','mean','std','sum','min','max'])
Этот последний метод очень быстрый. Спасибо.
Встроенная функция работает быстрее, чем пользовательский apply, в вашем случае вы можете использовать 3 отдельных groupby, используя payment_status и payment_status_detail, payment_date_created в качестве ключа:
group1 = x.groupby(["cust_id", "payment_status"])
stats1 = group1['scoring_dol_amount'].agg(["mean", "std", "sum", "min", "max", "count"])
group2 = x.groupby(["cust_id", "payment_status_detail"])
stats2 = group2['scoring_dol_amount'].agg(["sum", "count"])
group3 = x.groupby(["cust_id", (x['payment_date_created'].dt.hour >=23) | (x['payment_date_created'].dt.hour <=6)])
stats3 = group3['scoring_dol_amount'].count()
Пожалуйста, прочтите минимальный воспроизводимый пример и сведите проблему к минимальному примеру, который все еще поддерживает дух вопроса.