Apache Flink — высокая мощность метрик Promethues
в нашей организации мы получили количество систем, работающих на Flink 1.16.
Мы используем PrometheusReporterFactory.
Чтобы подвергнуть наши метрики очистке promethues.
Из-за определения динамических меток метрик системы flink мы наблюдаем взрыв мощности в наших прометах из-за большого количества создаваемых временных рядов.
При наличии множества операторов со множеством диспетчеров задач и слотов задач количество метрик становится огромным из-за динамических меток метрик, таких как Task_attempt_id, Task_id, tm_id и т. д., хотя большинство из них даже не используются и не запрашиваются командой SRE.
Есть ли способ уменьшить мощность? Возможно, какой-то способ исключить экспорт определенных ярлыков с помощью flink.
Спасибо.
Мы попытались уменьшить мощность, отключив метрики задержки, как представлено в этом выпуске
Но без какого-либо существенного уменьшения мощности.
Ответы 1
Пожалуйста, ознакомьтесь с документацией Область применения системы метрик. Это позволяет настраивать информацию, отображаемую в метриках. Соответственно, мы можем исключить ненужные переменные, чтобы уменьшить мощность
Редактировать:
Например (flink-conf.yml):
metrics.reporter.prom.factory.class: org.apache.flink.metrics.prometheus.PrometheusReporterFactory
metrics.reporter.prom.port: "8080"
metrics.reporter.prom.interval: 60 SECONDS
metrics.reporter.prom.scope.variables.excludes: host;tm_id;task_attempt_id;task_attempt_num;subtask_index;task_id;job_id;operator_id
metrics.scope.jm: jobmanager
metrics.scope.jm-job: jobmanager.<job_name>
metrics.scope.jm-operator: jobmanager.<job_name>.<operator_name>
metrics.scope.tm: taskmanager
metrics.scope.tm-job: taskmanager.<job_name>
metrics.scope.task: taskmanager.<job_name>.<task_name>
metrics.scope.operator: taskmanager.<job_name>.<operator_name>
@user25698741 user25698741 Я добавил пример, у меня он работает.
Спасибо! Не знал, что разделителем должна быть точка с запятой. Нам очень помог.
Спасибо за ответ! Но при попытке использовать metrics.reporter.prom.scope.varibles.excludes: Task_attempt_id,job_id я вижу, что метки все еще экспортируются. Есть решение?