监控最佳实践--redis及业务接口（redis qps监控）
mhr18 2024-11-08 12:16 25 浏览 0 评论
简介： 监控最佳实践--redis及业务接口
1. 背景
1.1 问题
2020-12-04，客户侧redis集群版监控DB0 CPU突增至100%，导致数据库无法正常服务，经排查客户侧业务上存在2M左右的大key导致DB0阻塞。并且客户侧使用的集群连接方式为默认proxy模式，如下图所示，DB0阻塞导致其他节点也无法正常服务；处理办法：客户侧配合切断大key业务的高频繁次调用，请求恢复。
1.2 思考
此次问题导致客户侧课程报名入口严重受损，进而引发深度思考。在使用redis等产品方面的监控报警手段不够完善，不够仔细，并且后续再查看业务日志发现错误率已经逐渐增多，直至redis层面表现出来才get到问题所在。针对此次redis的大key问题，给客户提供了关于大key以及热点key的分析办法，并建议完善客户侧监控报警的可读性以及业务日志接口的错误告警。
2. 数据库监控分析
2.1 redis监控指标分享
redis集群版云监控指标如下表所示。
监控项 | 单位 | MetricName | Dimensions | Statistics |
平均响应时间 | us | ShardingAvgRt | userId、instanceId、nodeId | Average、Maximum |
连接数使用率 | % | ShardingConnectionUsage | userId、instanceId、nodeId | Average、Maximum |
CPU使用率 | % | ShardingCpuUsage | userId、instanceId、nodeId | Average、Maximum |
命中率 | % | ShardingHitRate | userId、instanceId、nodeId | Average、Maximum |
入方向流量 | KByte/s | ShardingIntranetIn | userId、instanceId、nodeId | Average、Maximum |
流入带宽使用率 | % | ShardingIntranetInRatio | userId、instanceId、nodeId | Average、Maximum |
出方向流量 | KByte/s | ShardingIntranetOut | userId、instanceId、nodeId | Average、Maximum |
流出带宽使用率 | % | ShardingIntranetOutRatio | userId、instanceId、nodeId | Average、Maximum |
缓存内Key数量 | 个 | ShardingKeys | userId、instanceId、nodeId | Average、Maximum |
最大响应时间 | us | ShardingMaxRt | userId、instanceId、nodeId | Average、Maximum |
内存使用率 | % | ShardingMemoryUsage | userId、instanceId、nodeId | Average、Maximum |
QPS使用率 | % | ShardingQPSUsage | userId、instanceId、nodeId | Average、Maximum |
已用连接数 | 个 | ShardingUsedConnection | userId、instanceId、nodeId | Average、Maximum |
内存使用量 | Bytes | ShardingUsedMemory | userId、instanceId、nodeId | Average、Maximum、Sum |
平均每秒访问次数 | 个 | ShardingUsedQPS | userId、instanceId、nodeId | Average、Maximum |
2.2 redis大key分析
1.在控制台选择对应的实例，进行大key及Hot key分析处理。
2.利用API接口进行分析大 key以及Hot key。
缓存分析与热点Key查询可参考文后资料了解详情[1]。
2.3 数据库同环比监控
创建分组报警规则目前已更新至分组界面。
2.3.1 创建应用分组
2.3.2 创建报警规则
3. 日志监控
利用sls接入客户端日志，可以通过设定规则建立仪表盘以及实现报警。此方案日志接入采取logtail方式内网传输。
3.1 安装logtail
安装logtail方法可参考文后资料[2]。
3.2 创建project和logstore
登录日志服务控制台，依次创建对应地域的project及logstore。
3.3 数据接入向导
此次客户侧日志格式分别为json、log4j。
3.3.1 json
选择json文本日志>选择现有机器组>对应logtail配置
1.设置索引
对于多重json日志，需要将字段类型更改为json。
2.查询分析
3.3.2 log4j
选择正则文本日志>选择现有机器组>对应logtail配置
1.正则识别首行
2.提取字段
3.设置索引
注意：只对新写入数据生效。
4.查询分析
3.4 日志报警
3.4.1 仪表盘
3.4.2 报警
在仪表右上侧导航栏中单击告警，在下拉菜单中选择创建。
作者：SRE团队技术小编-小凌
本文为阿里云原创内容，未经允许不得转载
相关推荐
- redis 7.4.3更新!安全修复+性能优化全解析
-
一、Redis是什么？为什么选择它？Redis（RemoteDictionaryServer）是一款开源的高性能内存键值数据库，支持持久化、多数据结构（如字符串、哈希、列表等），广泛应用于缓存、消...
- C# 读写Redis数据库的简单例子
-
CSRedis是一个基于C#的Redis客户端库，它提供了与Redis服务器进行交互的功能。它是一个轻量级、高性能的库，易于使用和集成到C#应用程序中。您可以使用NuGet包管理器或使用以下命令行命令...
- 十年之重修Redis原理
-
弱小和无知并不是生存的障碍，傲慢才是。--------面试者总结Redis可能都用过，但是从来没有理解过，就像一个熟悉的陌生人，本文主要讲述了Redis基本类型的使用、数据结构、持久化、单线程模型...
- 高频L2行情数据Redis存储架构设计(含C++实现代码)
-
一、Redis核心设计原则内存高效：优化数据结构，减少内存占用低延迟访问：单次操作≤0.1ms响应时间数据完整性：完整存储所有L2字段实时订阅：支持多客户端实时数据推送持久化策略：RDB+AOF保障数...
- Magic-Boot开源引擎:零代码玩转企业级开发，效率暴涨!
-
一、项目介绍基于magic-api搭建的快速开发平台，前端采用Vue3+naive-ui最新版本搭建，依赖较少，运行速度快。对常用组件进行封装。利用Vue3的@vue/compiler-sfc单文...
- 项目不行简历拉胯?3招教你从面试陪跑逆袭大厂offer!
-
项目不行简历拉胯？3招教你从面试陪跑逆袭大厂offer！老铁们！是不是每次面试完都感觉自己像被大厂面试官婉拒的渣男？明明刷了三个月题库，背熟八股文，结果一被问项目就支支吾吾，简历写得像大学生课程设计？...
- 谷歌云平台:开发者部署超120个开源包
-
从国外相关报道了解，Google与Bitnami合作为Google云平台增加了一个新的功能，为了方便开发人员快捷部署程序，提供了120余款开源应用程序云平台的支持。这些应用程序其中包括了WordPre...
- 知名互联网公司和程序员都看好的数据库是什么?
-
2017年数据库领域的最大趋势是什么？什么是最热的数据处理技术？学什么数据库最有前途？程序员们普遍不喜欢的数据库是什么？本文都会一一揭秘。大数据时代，数据库的选择备受关注，此前本号就曾揭秘国内知名互联...
- 腾讯云发布云存储MongoDB服务
-
近日，著名安全专家兼Shodan搜索引擎的创建者JohnMatherly发现，目前至少有35000个受影响的MongoDB数据库暴露在互联网上，它们所包含的数据暴露在网络攻击风险之中。据估计，将近6...
- 已跪，Java全能笔记爆火，分布式/开源框架/微服务/性能调优全有
-
前言程序员，立之根本还是技术，一个程序员的好坏，虽然不能完全用技术强弱来判断，但是技术水平一定是基础，技术差的程序员只能CRUD，技术不深的程序员也成不了架构师。程序员对于技术的掌握，除了从了解-熟悉...
- 面试官:举个你解决冲突的例子?别怂!用这个套路……
-
面试官：举个你解决冲突的例子？别怂！用这个套路……最近收到粉丝私信，说被问到：团队技术方案有分歧怎么办？当场大脑宕机……兄弟！这不是送命题，是展示你情商+技术判断力的王炸题！今天教你们3招，用真实案例...
- 面试碰到MongoDB?莫慌，跟面试官这样吹MongoDB 复制集
-
推荐阅读：吊打MySQL：21性能优化实践+学习导图+55面试+笔记+20高频知识点阿里一线架构师分享的技术图谱，进阶加薪全靠它十面字节跳动，依旧空手而归，我该放弃吗？文末会分享一些MongoDB的学...
- SpringBoot集成扩展-访问NoSQL数据库之Redis和MongoDB!
-
与关系型数据库一样，SpringBoot也提供了对NoSQL数据库的集成扩展，如对Redis和MongoDB等数据库的操作。通过默认配置即可使用RedisTemplate和MongoTemplate...
- Java程序员找工作总卡项目关?
-
Java程序员找工作总卡项目关？3招教你用真实经历写出HR抢着要的简历！各位Java老哥，最近刷招聘软件是不是手都划酸了？简历投出去石沉大海，面试邀请却总在飞别人的简历？上周有个兄弟，13年经验投了5...
- Java多租户SaaS系统实现方案
-
嗯，用户问的是Java通过租户id实现的SaaS方案。首先，我需要理解用户的需求。SaaS，也就是软件即服务，通常是指多租户的架构，每个租户的数据需要隔离。用户可能想知道如何在Java中利用租户ID来...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (63)
- oracle批量插入数据 (62)
- oracle事务隔离级别 (53)
- oracle 空为0 (50)
- oracle主从同步 (55)
- oracle 乐观锁 (51)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)