当前位置: 首页 > news >正文

gnocchi学习小结

背景

总结gnocchi 4.4版本gnocchi-metricd工作流程

入口

gnocchi.cli.metricd

metricd

stop after processing metric默认为0,调servicemanager run

MetricdServiceManager

__init__

服务逻辑封装到MetricdServiceManager初始化中

主要由MetricProcessor, MetricReporting, MetricJanitor,都在metricd.py中定义。register_hooks用来reload MetricProcessor,默认48个worker

cotyledon.ServiceManager.add

先加到self._services,最后manager调_adjust_workers方法所有services集中处理

_adjust_workers调_start_worker和_stop_worker调整worker数,_utils.spawn_process调multiprocessing模块起进程

MetricProcessBase

三个metric类都继承自相同的base基类,base实现了run方法,run是无限循环,类似周期任务,周期执行业务类的_run_job方法

每一个worker好像都会delay一秒

只有metricProcessor是多worker,其他reporting和janitor都是单worker

MetricProcessor

主要业务是周期处理写进来的measures,处理后重新写入basepath下,具体怎么处理需确认

_run_job

229 判断初始化时间是否超过interval_delay(120),默认不超过,

_get_sacks_to_process

该函数类似一个装饰器,给定函数内存使用上限和timetolive,装饰类的同名函数_get_sacks_to_process

coordinator只有部分driver支持run_watchers,mysql driver不支持,所以_get_sacks_to_process报错,捕获异常,然后什么也不做,直接到finally返回

返回_tasks或fallback_tasks。mysql driver抛异常,_tasks是空,会返回fallback_tasks,看下赋值

incoming是gnocchi.incoming下的file driver

iter_sacks函数返回一个sack对象生成器,生成器长度从/var/lib/gnocchi/gnocchi-config默认配置文件读取,默认为128

获取完sack后,遍历每个sack底下的metric并处理

chef.process_new_measures_for_sack

看起来感觉是处理sack下的measures

聚合逻辑

会用时间序列存储对象,比如5分钟一个聚合周期,每1分钟采集一次指标,已经采了3个,则采第4个时,会将前三个先从文件解压缩,然后以时间序列形式加载,然后和第四个一起聚合

MetricReporting

周期汇报,返回一个report,默认没啥用,可以根据情况给业务用

MetricJanitor

周期删除状态为delete的metric和对应的measures

api

总结一些重要或常用api流程

gnocchiclient

7.X版本用v1

数据连接和查询的话,应该是初始化怎么连到db,还没看

v1/batch/resources/metrics/measures

该接口会修改incoming file类型存储端和mysql里的数据。mysql只有当metri不存在才会创建,如果存在则不处理,incoming file存储端存储上报的measures

对应gnocchiclient方法为metric.batch_resources_metrics_measures,方法对应的gnocchi处理逻辑在ResourcesMetricsMeasuresBatchController,方法是post,有一个create_metrics参数,默认False

虽然默认false,但和ceilometer对接的ceilometer端传参都是True

先查已有metric列表,新增measure前先判断measures里有没有名字不在已有metric列表的,如果有,创建新metric

最后批量创measuers,incoming应该是gnocchi.incoming下的file

add_measures_batch,应该是执行_store_new_measures方法

看着会先创临时文件,将measures写到临时文件,再按一定规则改临时文件名

sack有个最大数量,每个metricid会取余运算匹配一个sack,将sack和metricid组装成临时文件的替代路径,最后将临时文件重命名为这个路径

sack文件夹命名,total是总的,number是取余的结果,uuid模块创的uuid可转化为int,然后取余

最终路径应该是sack路径 + metricid + 随机uuid + 当前时间,父路径是/var/lib/gnocchi

加上True后会在原先生成路径后加一个随机uuid和当前时间

此处存疑,写入measure用的incoming模块,查询用的storage模块,其中对路径的拼接不一致(确认了,非问题,有多个存储端,不同的信息存储在不同的存储端)

其他业务相关

关于存储端

gnocchi有storage,incoming,indexer存储端,默认对接的分别是file,file,mysql。incoming主要操作measure,indexer操作metric,storage操作metric和measure的聚合相关操作

关于存储粒度

gnocchi有metric,measure,resource,和ceilometer粒度有类似对应关系,可以参考理解

gnocchi中的resource/metric/measure等的关系_gnocchi resource-CSDN博客

其他好用方法

获取主机名直接socket.gethostname()

http://www.lryc.cn/news/356921.html

相关文章:

  • 【机器学习】Pandas中to_pickle()函数的介绍与机器学习中的应用
  • lightning的hook顺序
  • 【ARFoundation自学03】AR Point Cloud 点云(参考点标记)功能详解
  • x264 码率控制中实现 VBV 算法源码分析
  • 宝兰德入选“鑫智奖·2024金融数据智能运维创新优秀解决方案”榜单
  • Unity3D雨雪粒子特效(Particle System)
  • 记录使用自定义编辑器做试题识别功能
  • MySQL索引和视图
  • Java单元测试Mock的用法,关于接口测试的用例
  • 《心理学报》文本分析技术最新进展总结盘点
  • json格式文件备份redis数据库 工具
  • JAVA系列:NIO
  • 偏微分方程算法之抛物型方程差分格式编程示例二
  • linux 查看 线程名, 线程数
  • python class __getattr__ 与 __getattribute__ 的区别
  • [ C++ ] 类和对象( 下 )
  • 这么多不同接口的固态硬盘,你选对了嘛!
  • 使用IDEA远程debug调试
  • 开源自定义表单系统源码 一键生成表单工具 可自由DIY表单模型+二开
  • 【java10】集合中新增copyof创建只读集合
  • python小甲鱼作业001-3讲
  • 做电商,错过了2020年的抖音!那2024一定要选择视频号小店!
  • 赛氪网与武汉外语外事职业学院签署校企合作,共创职业教育新篇章
  • 如何在文档中有效添加网格:技巧与实例
  • 设计模式10——装饰模式
  • 如果返回的json 中有 ‘///’ 转换
  • JAVA学习-练习试用Java实现“多线程问题”
  • SQOOP详细讲解
  • 【Unity入门】认识Unity编辑器
  • Spring控制重复请求