Redis开发规范看这篇就够了(redis模块开发)
mhr18 2024-11-15 22:11 28 浏览 0 评论
一、键值设计
1. 1 key名定义规则
- 【建议】: 可读性和可管理性与不可重复性
以业务名(或数据库名或微服务名)为前缀(防止key冲突),用冒号分隔,比如业务名:表名(或子业务名称):id
order:sku:1001
举例:上面定义是定单业务下面的sku的id作为缓存key
- 【建议】:简洁性
保证语义的前提下,控制key的长度,当key较多时,内存占用也不容忽视,例如:
user:{uid}:friends:messages:{mid}简化为u:{uid}:fr:m:{mid}
- 【强制】:不要包含特殊字符
不要包含空格、换行、单双引号以及其他转义字符
1.2 value设计
1.2.1 【强制】:拒绝bigkey
为什么要拒绝bigkey: Redis实例集群主要思想是将redis数据的key进行散列,通过hash函数特定的key会映射到指定的redis节点上,bigkey当这个KEY流量较大的时候,流量全打到一个Redis节点上,big key既占用比较多的内存,也可能占用比较多的网卡资源,造成redis阻塞。
防止热点问题(数据倾斜),Redis big key也就意味着每次获取要产生的网络流量较大,假设一个bigkey为1MB,客户端每秒访问量为1000,那么每秒产生1000MB的流量,对于普通的千兆网卡(按照字节算是128MB/s)的服务器来说简直是灭顶之灾。
String类型控制在10KB以内,hash、list、set、zset元素个数不要超过5000。
1.2.2 bigkey举例说明
举例1:我们要设计一个网关过滤IP黑名单的缓存,有两种设计方法:
反例,使用LIST或SET格式来存储IP:
LPUSH lgateway:ipblack 10.25.63.123
LPUSH lgateway:ipblack 10.25.63.124
LPUSH lgateway:ipblack 10.25.63.125
LPUSH lgateway:ipblack 10.25.63.126
...................................
正例,使用String来存储IP:
SET gateway:ipblack:10.25.63.123 1
SET gateway:ipblack:10.25.63.124 1
SET gateway:ipblack:10.25.63.125 1
SET gateway:ipblack:10.25.63.126 1
相对第二种方法,方法一随着IP数据与流量的增加,会产生热点问题,所以选择方法二
举例2:用户表的缓存
用户表结构如下:
CREATE TABLE `users` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`name` varchar(100) DEFAULT NULL,
`password` varchar(100) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=utf8
反例,使用map来存:
HGET 来存储 key为“userinfo”,value使用map存所有的用户信息
HGET userinfo 12321 {"name":"peter","age":22}
HGET userinfo 12322 {"name":"jake","age":23}
HGET userinfo 12323 {"name":"rose","age":24}
HGET userinfo 12324 {"name":"xiaomi","age":25}
...................................
正例,使用map来存储:
拆分行纪录来存储,key为 user: id, value为map
HMSET user:12321 name peter age 22
HMSET user:12322 name jake age 23
HMSET user:12323 name rose age 24
HMSET user:12324 name xiaomi age 25
..................................
相对第二种方法,方法一随着用户数据与流量的增加,会产生热点问题,所以选择方法二。
1.2.3【推荐】:选择适合的数据类型。
例如:实体类型(要合理控制和使用数据结构,但也要注意节省内存和性能之间的平衡)
比如对用户信息的缓存,如下两例所示:
反例:
set user:1:name tom
set user:1:age 19
set user:1:favor football
正例:
hmset user:1 name tom age 19 favor football
第一种方式得查多次才能得到这条纪录的值,第二种Map结构可以很方便的一次获取所有字段的值或获取某个字段的值。
1.3【强制】:控制key的生命周期
不是需要长期保存的数据得使用expire设置过期时间,临时缓存数据不允许长期保存,成为垃圾数据。比如短信验证码,有效期是3分钟,那行设置三分钟后过期,如下所示:
SET user:sms:userid 123456
EXPIRE user:sms:userid 180
二、命令使用
2.1【推荐】 O(N)命令关注N的数量
例如hgetall、lrange、smembers、zrange、sinter等并非不能使用,但是需要明确N的值(要限制每次取的数量)。有遍历的需求可以使用hscan、sscan、zscan代替。
2.2【推荐】:禁用命令
禁止线上使用keys、flushall、flushdb等,或者使用scan的方式渐进式处理。
警告:KEYS命令不能用在生产的环境中,这个时候如果数量过大效率是十分低的。同时也不要用KEYS正则匹配,官方建议直接用集合类型。
FLUSHALL,FLUSHDB 命令会清空数据,而且从不失败,对于线上集群非常危险。
三、【推荐】Redisson实现分布式锁
使用Redis分布式锁开发时推荐使用Redisson客户端。
3.1 Reddsion介绍
官方推荐的Redisson实现Redis分布式锁,Redisson功能强大,几行代码就可以实现Jedis客户端中需要实现的复杂锁的功能。
Reddisson可以防止死锁:如果负责储存这个分布式锁的Redisson节点宕机以后,而且这个锁正好处于锁住的状态时,这个锁会出现锁死的状态。为了避免这种情况的发生,Redisson内部提供了一个监控锁的看门狗,它的作用是在Redisson实例被关闭前,不断的延长锁的有效期。默认情况下,看门狗的检查锁的超时时间是30秒钟,也可以通过修改Config.lockWatchdogTimeout来另行指定。
另外Redisson还通过加锁的方法提供了leaseTime的参数来指定加锁的时间。超过这个时间后锁便自动解开了。
Redisson提供了很多种类型的分布式锁和分布式同步器,如下:
1. 可重入锁(Reentrant Lock)
2. 公平锁(Fair Lock)
3. 联锁(MultiLock)
4. 红锁(RedLock)
5. 读写锁(ReadWriteLock)
6. 信号量(Semaphore)
7. 可过期性信号量(PermitExpirableSemaphore)
8. 闭锁(CountDownLatch)
3.2 Springboot结合Redission使用
3.2.1 pom依赖
<dependency>
<groupId>org.redisson</groupId>
<artifactId>redisson</artifactId>
<version>3.9.0</version>
</dependency>
3.2.2 application.yml
##端口号
server:
port: 8080
#redis
redis:
address:
#单机模式
master: redis://127.0.0.1:6379
#主从模式
slave: redis://127.0.0.1:6379
#集群模式
cluster: redis://127.0.0.1:7001,redis://127.0.0.1:7002,redis://127.0.0.1:7003,redis://127.0.0.1:7004,redis://127.0.0.1:7005,redis://127.0.0.1:7006
#连接模式 1 单机模式 2 主从模式 3 集群模式
connectionMode: 1
3.2.3 Redisson配置类
支持三种配置模式:单机模式、主从模式、集群模式
@Configuration
public class RedissionConfig {
private static final Logger logger = LoggerFactory.getLogger(RedissionConfig.class);
@Autowired
private Environment env;
private Config config;
private static final String REDISSION_ClIENT_NAME = "SHIT_IS_PERFECT";
private static final Integer POOL_SIZE = 200;
private static final Integer IDLE_SIZE = 15;
private static final Integer TIME_OUT = 10000;
@Value("${redis.address.master}")
private String master;
@Value("${redis.address.slave}")
private String slave;
@Value("${redis.connectionMode}")
private Integer connectionMode;
@Value("${redis.address.cluster}")
private String cluster;
@Bean
public RedissonClient redissionClient(){
config = new Config();
switch (connectionMode){
//standalone 单机模式
case 1:
config.useSingleServer().setAddress(master)
.setConnectionPoolSize(POOL_SIZE)
.setClientName(REDISSION_ClIENT_NAME)
.setConnectionMinimumIdleSize(IDLE_SIZE)
.setConnectTimeout(TIME_OUT)
.setPingTimeout(30000);
break;
//master_slave 主从模式
case 2:
config.useMasterSlaveServers().setClientName(REDISSION_ClIENT_NAME)
.setConnectTimeout(TIME_OUT)
.setMasterAddress(master)
.addSlaveAddress(slave)
.setMasterConnectionMinimumIdleSize(IDLE_SIZE)
.setMasterConnectionPoolSize(POOL_SIZE)
.setSlaveConnectionMinimumIdleSize(IDLE_SIZE)
.setSlaveConnectionPoolSize(POOL_SIZE);
break;
//cluster 集群模式
case 3:
config.useClusterServers()
.addNodeAddress(cluster.split(","))//这是用的集群server
.setScanInterval(2000) //设置集群状态扫描时间
.setMasterConnectionPoolSize(10000) //设置连接数
.setSlaveConnectionPoolSize(10000);
break;
}
return Redisson.create(config);
}
}
3.2.4 RedissonLocker的具体实现类
@Service("redissonLocker")
public class RedissonLockerImpl implements DistributedLocker {
@Autowired
private RedissonClient redissonClient;
/**************************可重入锁**************************/
/**
* 拿不到lock就不罢休,不然线程就一直block(阻塞)
* 没有超时时间,默认30s
*
* @param lockKey
* @return
*/
@Override
public RLock lock(String lockKey) {
RLock lock = redissonClient.getLock(lockKey);
lock.lock();
return lock;
}
/**
* 自己设置超时时间
*
* @param lockKey 锁的key
* @param timeout 秒 如果是-1,直到自己解锁,否则不会自动解锁
* @return
*/
@Override
public RLock lock(String lockKey, int timeout) {
RLock lock = redissonClient.getLock(lockKey);
lock.lock(timeout, TimeUnit.SECONDS);
return lock;
}
/**
* 自己设置超时时间
*
* @param lockKey 锁的key
* @param unit 锁时间单位
* @param timeout 超时时间
*
*/
@Override
public RLock lock(String lockKey, TimeUnit unit, int timeout) {
RLock lock = redissonClient.getLock(lockKey);
lock.lock(timeout, unit);
return lock;
}
/**
* 尝试加锁,最多等待waitTime,上锁以后leaseTime自动解锁
* @param lockKey 锁key
* @param unit 锁时间单位
* @param waitTime 等到最大时间
* @param leaseTime 锁失效时间
* @return 如果获取成功,则返回true,如果获取失败(即锁已被其他线程获取),则返回false
*/
@Override
public boolean tryLock(String lockKey, TimeUnit unit, int waitTime, int leaseTime) {
RLock lock = redissonClient.getLock(lockKey);
try {
return lock.tryLock(waitTime, leaseTime, unit);
} catch (InterruptedException e) {
e.printStackTrace();
}
return false;
}
/**************************公平锁**************************/
/**
* 尝试加锁,最多等待waitTime,上锁以后leaseTime自动解锁
* @param lockKey 锁key
* @param unit 锁时间单位
* @param waitTime 等到最大时间
* @param leaseTime 锁失效时间
* @return 如果获取成功,则返回true,如果获取失败(即锁已被其他线程获取),则返回false
*/
public boolean fairLock(String lockKey, TimeUnit unit, int waitTime, int leaseTime) {
RLock fairLock = redissonClient.getFairLock(lockKey);
try {
return fairLock.tryLock(waitTime, leaseTime, unit);
} catch (InterruptedException e) {
e.printStackTrace();
}
return false;
}
/**
* 释放锁
* @param lockKey 锁key
*/
@Override
public void unlock(String lockKey) {
RLock lock = redissonClient.getLock(lockKey);
lock.unlock();
}
/**
* 释放锁
*/
@Override
public void unlock(RLock lock) {
lock.unlock();
}
}
四、附录:删除bigkey
4.1 Hash删除: hscan + hdel
public void delBigHash(String host, int port, String password, String bigHashKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<Entry<String, String>> scanResult = jedis.hscan(bigHashKey, cursor, scanParams);
List<Entry<String, String>> entryList = scanResult.getResult();
if (entryList != null && !entryList.isEmpty()) {
for (Entry<String, String> entry : entryList) {
jedis.hdel(bigHashKey, entry.getKey());
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigHashKey);
}
4.2 List删除: ltrim
public void delBigList(String host, int port, String password, String bigListKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
long llen = jedis.llen(bigListKey);
int counter = 0;
int left = 100;
while (counter < llen) {
//每次从左侧截掉100个
jedis.ltrim(bigListKey, left, llen);
counter += left;
}
//最终删除key
jedis.del(bigListKey);
}
4.3 Set删除: sscan + srem
public void delBigSet(String host, int port, String password, String bigSetKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<String> scanResult = jedis.sscan(bigSetKey, cursor, scanParams);
List<String> memberList = scanResult.getResult();
if (memberList != null && !memberList.isEmpty()) {
for (String member : memberList) {
jedis.srem(bigSetKey, member);
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigSetKey);
}
4.4 SortedSet删除: zscan + zrem
public void delBigZset(String host, int port, String password, String bigZsetKey) {
Jedis jedis = new Jedis(host, port);
if (password != null && !"".equals(password)) {
jedis.auth(password);
}
ScanParams scanParams = new ScanParams().count(100);
String cursor = "0";
do {
ScanResult<Tuple> scanResult = jedis.zscan(bigZsetKey, cursor, scanParams);
List<Tuple> tupleList = scanResult.getResult();
if (tupleList != null && !tupleList.isEmpty()) {
for (Tuple tuple : tupleList) {
jedis.zrem(bigZsetKey, tuple.getElement());
}
}
cursor = scanResult.getStringCursor();
} while (!"0".equals(cursor));
//删除bigkey
jedis.del(bigZsetKey);
}
相关推荐
- 说说Redis的单线程架构(redis的单线程模型)
-
一句话总结Redis采用单线程处理命令请求,避免了多线程的上下文切换和锁竞争,保证原子性操作。其基于内存的高效执行和I/O多路复用模型支撑了高并发性能。网络I/O和持久化操作(如RDB/AOF)由后台...
- 答记者问之 - Redis 的高效架构与应用模式解析
-
问:极客程序员你好,请帮我讲一讲redis答:redis主要涉及以下核心,我来一一揭幕Redis的高效架构与应用模式解析Redis是一个开源的内存数据存储系统,因其高性能、丰富的数据结构和易用性...
- Redis的5种核心数据结构,及其最经典的“应用场景”
-
Redis凭什么稳坐缓存界头把交椅?全靠这五个“身怀绝技”的数据结构!在分布式系统的江湖里,Redis就像一位身怀绝技的武林高手,而它的五大核心数据结构正是克敌制胜的五套绝学。今天咱们就来拆解这些独门...
- 精准定位文件包含漏洞:代码审计中的实战思维
-
前言最近看到由有分析梦想cms的,然后也去搭建了一个环境看了一看,发现了一个文件包含漏洞的点,很有意思,下面是详细的复现和分析,以后代码审计又多了一中挖掘文件包含漏洞的新思路环境搭建下载https...
- ARDM:一款国产跨平台的Redis管理工具
-
ARDM(AnotherRedisDesktopManager)是一款免费开源的Redis桌面管理客户端,支持Windows、Mac、Linux跨平台。功能特性ARDM提供的主要功能如...
- SpringBoot的Web应用开发——Web缓存利器Redis的应用!
-
Web缓存利器Redis的应用Redis是目前使用非常广泛的开源的内存数据库,是一个高性能的keyvalue数据库,它支持多种数据结构,常用做缓存、消息代理和配置中心。本节将简单介绍Redis的使...
- Windows服务器部署CRMEB开源电商系统,详细教程来了!
-
安装PHP已经安装过PHP的可以跳过首先安装VC运行库下载地址https://docs.microsoft.com/zh-cn/cpp/windows/latest-supported-vc-redi...
- Windows系统下Redis各个安装包介绍与选择指南
-
简介Redis作为高性能的键值数据库,广泛应用于缓存、消息队列等场景。在Windows系统中部署Redis时,用户可以选择多种安装包以满足不同的需求。本文将详细介绍以下Redis8.0.3版本的安装...
- 从面试题入手,深度剖析Redis Cluster原理
-
揭开RedisCluster的神秘面纱**在当今数字化浪潮中,数据量呈爆炸式增长,应用程序对数据存储和处理的要求也日益严苛。Redis作为一款高性能的内存数据库,凭借其出色的读写速度和丰富的数...
- 给大家推荐些好的c语言代码的网站
-
C语言,那就来推荐几个吧,部分含有C++:1、TheLinuxKernelArchives(kernel.org)Linux内核源码,仅限于C,但内核庞大,不太适合新手;2、redis(redi...
- Redis String 类型的底层实现与性能优化
-
RedisString是Redis中最基础也是应用最广泛的数据类型,它能存储文本、数字、二进制数据等多种形式的信息。深入理解其底层实现对构建高性能分布式系统至关重要。Redis字符串的底层结...
- 阿里面试问:Redis 为什么把简单的字符串设计成 SDS?
-
分享了一道面阿里的redis题,我看了以后觉得挺有意思。题目大致是这样的面试官:了解redis的String数据结构底层实现嘛?铁子:当然知道,是基于SDS实现的面试官:redis是用C语言开发的,那...
- 编程语言那么多,为何C语言能成为最成功的语言?
-
编程语言那么多,为何C语言能成为最成功的语言?2025年嵌入式岗位暴增47%,新人却还在问"C语言过时了吗"。真相是连机器人关节驱动都得靠它写,不会指针连芯片手册都看不懂。见过用Pyt...
- go-zero 使用 redis 作为 cache 的 2 种姿势
-
在go-zero框架内,如在rpc的应用service中,其内部已经预置了redis的应用,所以我们只需要在配置中加入相关字段即可,另外,在svcContext声明redisc...
- Redis事务深度解析:ACID特性、执行机制与生产实践指南
-
一、Redis事务的本质与核心机制Redis事务通过MULTI、EXEC、WATCH等命令实现,其本质是将多个命令序列化后一次性执行,而非传统数据库的严格事务模型。核心特点如下:命令队列化:MULT...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle位图索引 (74)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (59)
- oracle主从同步 (56)
- oracle 乐观锁 (53)
- redis 命令 (83)
- php redis (97)
- redis 存储 (67)
- redis 锁 (74)
- 启动 redis (73)
- redis 时间 (60)
- redis 删除 (69)
- redis内存 (64)
- redis并发 (53)
- redis 主从 (71)
- redis同步 (53)
- redis 哨兵 (52)
- redis结构 (53)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)