当前位置:首页 > 其他 > 正文内容

你还用ES存恳求日志?ClickHouse+Vector打造最强Grafana日志剖析看板

邻居的猫1个月前 (12-09)其他1003

为什么要做NGINX日志剖析看板

Grafana官网的dashboards有NGINX日志收集到ES数据源的展现看板,也有收集到LOKI数据源的展现看板,唯一没有收集到ClickHouse数据源的展现看板。所以这个轮子是必需求造的。

为什么不运用ES存储

ElasticSearch是全文检索引擎的文档数据库,关于事务日志、反常日志、多行日志这类,非结构化、半结构化的日志数据,常常需求做关键字查询,含糊匹配等操作,十分合适运用es,运用倒排索引完成快速全文查找。

ClickHouse是一个列式存储数据库,特别拿手处理结构化的大规模的SQL查询和聚合剖析操作,所以针对NGINX这类结构化的恳求日志,在处理多维剖析、聚合查询、分组计算等操作速度极快,而且压缩比极高,存储本钱比ES低10倍,CPU、内存的占用也有巨大优势。

NGINX日志收集架构

  • 根底架构

在这里刺进图片描绘

  • 完好架构

在这里刺进图片描绘

Grafana恳求日志剖析看板预览

该看板是根据 ClickHouse + Vector 的NGINX恳求日志剖析看板。包含恳求与耗时剖析、反常恳求剖析、用户剖析、地理位置分布图、指定接口剖析、恳求日志明细。

特别在反常恳求剖析方面,总结多年反常恳求剖析经历,从各个视点规划很多反常恳求的剖析图表。

  • 全体恳求与耗时剖析
    在这里刺进图片描绘

  • NGINX反常恳求剖析

在这里刺进图片描绘

  • 用户恳求数据剖析

在这里刺进图片描绘

  • 地理位置数据剖析

在这里刺进图片描绘

  • 指定接口明细剖析

在这里刺进图片描绘

  • 恳求日志概况剖析

在这里刺进图片描绘

导入NGINX恳求日志剖析的Grafana看板

Grafana看板ID:22037

下载地址:

https://grafana.com/grafana/dashboards/22037

留意:

  • 在Grafana中添加ClickHouse数据源时,留意点开Additional settings右边的箭头,装备Default database为寄存日志的默许库,如上的:nginxlogs。
  • 假如你保存日志的表名不是access结束的,项目菜单会没有数据,需求点击看板右上角的设置-变量-project,在下方的Regex项,输入你需求展现的日志表的正则,或许留空,展现默许库的一切表。

扫描二维码推送至手机访问。

版权声明:本文由51Blog发布,如需转载请注明出处。

本文链接:https://www.51blog.vip/?id=659

分享给朋友:

“你还用ES存恳求日志?ClickHouse+Vector打造最强Grafana日志剖析看板” 的相关文章

11、Git之自建项目保管渠道(GitLab极狐)

11、Git之自建项目保管渠道(GitLab极狐)

11.1、简介 Github 是国外的项目保管渠道,因为网络问题,在国内拜访和运用不是很便利。 Gitee 是国内的项目保管渠道,虽然在拜访和运用上挺便利的,但仍然让人忧虑项目代码或许会被走漏。 因而,从企业或组织的视点动身,是倾向于在内部自建一个项目保管渠道,将肯定办理权控制在自己手中的。 Git...

架构演化考虑总结(1)

架构演化考虑总结(1)

架构是什么? 答:架构是对依靠的统一办理。 什么是依靠?分为几种?咱们为什么要对它进行办理。 依靠便是持有目标,或许说是持有一个非空的引证。 单向依靠 正如项目开发中,目标和目标之间都会有彼此持有、彼此调用的需求的。而目标间的持有便是一种依靠。A想要完结一个逻辑处理,需求调用B的一个办法来完结,那么...

【双11最终一天】活动产品低至8折!DL32逻辑分析仪Pro、加热台、电烙铁、开发板等活动产品限时优惠!各种爆款产品炽热售卖中!

【双11最终一天】活动产品低至8折!DL32逻辑分析仪Pro、加热台、电烙铁、开发板等活动产品限时优惠!各种爆款产品炽热售卖中!

【双11最终一天】活动产品低至8折!DL32逻辑分析仪、加热台、电烙铁、开发板等活动产品限时优惠!各种爆款产品炽热售卖中! 双11最终一天,全店活动产品低至8折!全新DL32逻辑分析仪、HP15加热台,还有爆款产品T80智能电烙铁、DS100 Mini手持示波器,开发板等活动产品限时优惠!各种新品及...

Java 面试用什么项目?满是商场秒杀 RPC,我吐了

Java 面试用什么项目?满是商场秒杀 RPC,我吐了

看了几百份简历,真的超越 90% 的小伙伴的项目是商城、RPC、秒杀、论坛、外卖、点评等等烂大街的项目,人人都知道这些项目烂大街了,但大部分同学仍是得硬着头皮做,没办法,网络上能找到的、教程比较完善的就这些项目了,做的话好歹有个项目,不做那就真能写校园做的废物学生办理体系了。 我深刻了解小伙伴的痛点...

【译】为什么命名“它”为依靠特点(DependencyProperty)

【译】为什么命名“它”为依靠特点(DependencyProperty)

当咱们创立新的类和成员时,咱们花费了许多的时刻和精力是它们尽可能的好用,好了解,好发现。一般咱们会遵从.Net结构规划攻略,尤其是会不断地研讨这个新类与其他类,未来方案等内容之间的联系。 当命名依靠特点(DependencyProperty)和依靠目标(DependencyObject)的时分也是遵...

达云助力绿海数字买卖公司完成软件布置上云

达云助力绿海数字买卖公司完成软件布置上云

1.概述   本次需求把量化金融买卖体系从GCP搬迁到AWS。   绿海数字买卖公司是一家致力于为全球用户供给安全、高效的数字财物买卖服务的公司。办理和运营区块链,施行有用的危险办理战略,保证用户财物安全,一同不断创新和优化买卖体系和服务,进步用户体会。致力于探究区块链技能的运用,并严格遵守世界金融...