Redis提供的应对签到和统计UV开发需求的数据结构
mhr18 2024-12-01 09:20 21 浏览 0 评论
在我们日常开发中，会遇到一些布尔类型数据存储的需求，说的直白一些，就是是与不是、做与没做的一些需求，像用户的签到并记录这些签到，和办公系统里面打卡是一样的，下面两张图就是我的支付宝与我的移动的签到应用。
当接到这样的需求时，第一时间我想到的就是使用Redis来应对这样的需求，用户一年的签到记录， 签了是 1，没签是 0，要记录 365 天。如果使用普通的 key/value，每个用户要记录 365 个，当用户上亿的时候，需要的存储空间是惊人的。而这时Redis的位图数据结构就派上用场了，这样每天的签到记录只占据一个位， 365 天就是 365 个位，一个字节是8位，也就是一个用户签到一年，差不多46 个字节就可以完全容纳下，这就大大节约了存储空间。
位图不是特殊的数据结构，它的内容其实就是普通的字符串，也就是 byte 数组。我们可以使用普通的 get/set 直接获取和设置整个位图的内容，也可以使用位图操作 getbit/setbit 等将 byte 数组看成「位数组」来处理。
操作：设置（setbit）和获取（getbit）：
操作：统计（bitcount）和查找（bitpos）：
以上就是Redis提供给我们位图的数据结构，当然还是其他操作，这里就不再赘述，下面来讲一下另外一个需求，那就是统计网站的UV数据，当接到这样一个需求时，相信大部分程序员都会漏出自信的微笑，我用一个Redis的计数器就可以实现了，其实不然，如果统计 PV 那非常好办，给每个网页一个独立的 Redis 计数器就可以了，这个计数器 的 key 后缀加上当天的日期。这样来一个请求，incrby 一次，最终就可以统计出所有的 PV 数据。但是 UV 不一样，它要去重，同一个用户一天之内的多次访问请求只能计数一次。这就 要求每一个网页请求都需要带上用户的 ID，无论是登陆用户还是未登陆用户都需要一个唯一 ID 来标识。可能你会想到另外一个简单的方案，那就是为每一个页面一个独立的 set 集合来存储所有当天访问过此页面的用户 ID。当一个请求过来时，我们使用 sadd 将用户 ID 塞进去就可 以了。通过 scard 可以取出这个集合的大小，这个数字就是这个页面的 UV 数据。不错，这也是一个实现方案，但这个方案也有缺点，那就是数据量比较大时，如果你的页面访问量非常大，比如一个爆款页面几千万的 UV，你需要一个很大 的 set 集合来统计，这就非常浪费空间。
铺垫了那么久，其实就是为了引出这个解决方案的主角，那就是HyperLogLog，Redis 提供了 HyperLogLog 数据结构就是用来解决 这种统计问题的。HyperLogLog 提供不精确的去重计数方案，虽然不精确但是也不是非常不精确，标准误差是不到1%，这样的精确度已经可以满足上面的 UV 统计需求了。
操作：增加（pfadd）和统计（pfcount）：
大家看了会说，这部挺准确的，添加了3个，统计出来的就是3个，量大了就不行了，下面我们就用python脚步跑一个，验证一下，打开我们心爱的ipython：
误差是有一点的，但是可以满足相应的需求了，加入产品对统计精度要求特别的苛刻，那么我们就要损失存储空间和性能来实现它的需求了，兵来将挡，水来土掩，利用好Redis提供的强大功能，来开发应对不同的需求，不要只是会添加、获取和删除缓存这样简单的功能，要物尽其用！
相关推荐
- Dubai's AI Boom Lures Global Tech as Emirate Reinvents Itself as Middle East's Silicon Gateway
-
AI-generatedimageAsianFin--Dubaiisrapidlytransformingitselffromadesertoilhubintoaglob...
- OpenAI Releases o3-pro, Cuts o3 Prices by 80% as Deal with Google Cloud Reported to Make for Compute Needs
-
TMTPOST--OpenAIisescalatingthepricewarinlargelanguagemodel(LLM)whileseekingpartnershi...
- 黄仁勋说AI Agent才是未来!但究竟有些啥影响?
-
，抓住风口（iOS用户请用电脑端打开小程序）本期要点：详解2025年大热点你好，我是王煜全，这里是王煜全要闻评论。最近，有个词被各个科技大佬反复提及——AIAgent，智能体。黄仁勋在CES展的发布...
- 商城微服务项目组件搭建(五)——Kafka、Tomcat等安装部署
-
1、本文属于mini商城系列文档的第0章，由于篇幅原因，这篇文章拆成了6部分，本文属于第5部分2、mini商城项目详细文档及代码见CSDN：https://blog.csdn.net/Eclipse_...
- Python+Appium环境搭建与自动化教程
-
以下是保姆级教程，手把手教你搭建Python+Appium环境并实现简单的APP自动化测试：一、环境搭建（Windows系统）1.安装Python访问Python官网下载最新版（建议...
- 零配置入门:用VSCode写Java代码的正确姿
-
一、环境准备：安装JDK，让电脑“听懂”Java目标：安装Java开发工具包（JDK），配置环境变量下载JDKJava程序需要JDK（JavaDevelopmentKit）才能运行和编译。以下是两...
- Mycat的搭建以及配置与启动（mycat2）
-
1、首先开启服务器相关端口firewall-cmd--permanent--add-port=9066/tcpfirewall-cmd--permanent--add-port=80...
- kubernetes 部署mysql应用（k8s mysql部署）
-
这边仅用于测试环境，一般生产环境mysql不建议使用容器部署。这里假设安装mysql版本为mysql8.0.33一、创建MySQL配置（ConfigMap）#mysql-config.yaml...
- Spring Data Jpa 介绍和详细入门案例搭建
-
1.SpringDataJPA的概念在介绍SpringDataJPA的时候，我们首先认识下Hibernate。Hibernate是数据访问解决技术的绝对霸主，使用O/R映射（Object-Re...
- 量子点格棋上线!“天衍”邀您执子入局
-
你是否能在策略上战胜量子智能？这不仅是一场博弈更是一次量子智力的较量——量子点格棋正式上线！试试你能否赢下这场量子智局！游戏玩法详解一笔一画间的策略博弈游戏目标：封闭格子、争夺领地点格棋的基本目标是利...
- 美国将与阿联酋合作建立海外最大的人工智能数据中心
-
当地时间5月15日，美国白宫宣布与阿联酋合作建立人工智能数据中心园区，据称这是美国以外最大的人工智能园区。阿布扎比政府支持的阿联酋公司G42及多家美国公司将在阿布扎比合作建造容量为5GW的数据中心，占...
- 盘后股价大涨近8%!甲骨文的业绩及指引超预期?
-
近期，美股的AI概念股迎来了一波上升行情，微软（MSFT.US）频创新高，英伟达（NVDA.US）、台积电（TSM.US）、博通（AVGO.US）、甲骨文（ORCL.US）等多股亦出现显著上涨。而从基...
- 甲骨文预计新财年云基础设施营收将涨超70%，盘后一度涨8% | 财报见闻
-
甲骨文（Oracle）周三盘后公布财报显示，该公司第四财季业绩超预期，虽然云基建略微逊于预期，但管理层预计2026财年云基础设施营收预计将增长超过70%，同时资本支出继上年猛增三倍后，新财年将继续增至...
- Springboot数据访问(整合MongoDB)
-
SpringBoot整合MongoDB基本概念MongoDB与我们之前熟知的关系型数据库（MySQL、Oracle）不同，MongoDB是一个文档数据库，它具有所需的可伸缩性和灵活性，以及所需的查询和...
- Linux环境下，Jmeter压力测试的搭建及报错解决方法
-
概述 Jmeter最早是为了测试Tomcat的前身JServ的执行效率而诞生的。到目前为止，它的最新版本是5.3，其测试能力也不再仅仅只局限于对于Web服务器的测试，而是涵盖了数据库、JM...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- Dubai's AI Boom Lures Global Tech as Emirate Reinvents Itself as Middle East's Silicon Gateway
- OpenAI Releases o3-pro, Cuts o3 Prices by 80% as Deal with Google Cloud Reported to Make for Compute Needs
- 黄仁勋说AI Agent才是未来!但究竟有些啥影响?
- 商城微服务项目组件搭建(五)——Kafka、Tomcat等安装部署
- Python+Appium环境搭建与自动化教程
- 零配置入门:用VSCode写Java代码的正确姿
- Mycat的搭建以及配置与启动（mycat2）
- kubernetes 部署mysql应用（k8s mysql部署）
- Spring Data Jpa 介绍和详细入门案例搭建
- 量子点格棋上线!“天衍”邀您执子入局
- 标签列表
-
- oracle位图索引 (74)
- oracle批量插入数据 (65)
- oracle事务隔离级别 (59)
- oracle 空为0 (51)
- oracle主从同步 (56)
- oracle 乐观锁 (53)
- redis 命令 (78)
- php redis (88)
- redis 存储 (66)
- redis 锁 (69)
- 启动 redis (66)
- redis 时间 (56)
- redis 删除 (67)
- redis内存 (57)
- redis并发 (52)
- redis 主从 (69)
- redis 订阅 (51)
- redis 登录 (54)
- redis 面试 (58)
- 阿里 redis (59)
- redis 搭建 (53)
- redis的缓存 (55)
- lua redis (58)
- redis 连接池 (61)
- redis 限流 (51)