百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

深夜报警!10亿次请求暴击,如何用Redis找出最热IP?

mhr18 2025-04-27 14:58 31 浏览 0 评论

凌晨3点26分,你的手机突然炸了——
10亿次请求正在冲击服务器,CPU飙到100%!
更可怕的是:
老板问你:"到底是哪个IP在攻击我们?"

如果支支吾吾答不上来,明天就可以收拾工位了…

别慌!今天我们用Redis+Java代码,彻底解决这个亿级数据下的"最热IP统计"难题!

▎01 方案对比:Redis五种统计方案谁最强?

(实测数据来自4核8G云服务器,10亿UV统计场景)

真实案例:某社交APP用Hash方案统计UV,服务器每天凌晨准时崩溃,改用HLL后成本直降99%


▎02 终极方案:RedisBloom TopK(压测代码)

Redis的Bloom模块提供了精确的TopK统计,原理如下:

Java实现代码(SpringBoot版):

@RestController
public class TopIPController {


    @Resource
    private RedisTemplate<String, String> redisTemplate;


    // 统计IP访问
    @PostMapping("/visit")
    public void recordVisit(@RequestParam String ip) {
        redisTemplate.opsForValue()
            .setBit("ip_bitmap:" + ip, 1, true);  // 用Bitmap去重


        redisTemplate.opsForZSet()
            .incrementScore("ip_rank", ip, 1);    // ZSet计数
    }


    // 获取Top10 IP
    @GetMapping("/top10")
    public List<String> getTop10IP() {
        return redisTemplate.opsForZSet()
            .reverseRange("ip_rank", 0, 9);
    }


    // 使用BloomFilter版TopK(需Redis 5.0+)
    public void initTopK() {
        redisTemplate.execute((RedisCallback<Object>) connection -> {
            connection.execute("TOPK.RESERVE", "ip_topk".getBytes(), 
                "10".getBytes(), // 保留Top10
                "10000".getBytes(), // 计数器数量
                "0.01".getBytes()); // 误差率1%
            return null;
        });
    }
}

性能实测(10亿IP场景):

▎03 分片优化:百亿级数据的处理技巧

如果数据量超过单机Redis容量,就要用分片方案:

Java分片代码示例:

// 根据IP的CRC16分片
public int getShard(String ip) {
    int slot = CRC16.crc16(ip.getBytes()) % 16384;
    return slot / 5461;  // 假设分3片
}


// 分片统计
public void shardedRecord(String ip) {
    int shard = getShard(ip);
    redisTemplates.get(shard).opsForZSet()
        .incrementScore("ip_rank", ip, 1);
}

分片后性能提升:

  • 内存压力分散到多台机器
  • 查询吞吐量提升N倍(N=分片数)

▎04 防作弊:如何识别刷量IP?

识别异常IP的4个维度(附代码):

  • 频率检测:1秒内请求超过100次
String key = "ip_limit:" + ip;
Long count = redisTemplate.opsForValue().increment(key);
redisTemplate.expire(key, 1, TimeUnit.SECONDS);
if(count > 100) throw new RuntimeException("刷量IP!");

  • 设备指纹:相同UserAgent+IP组合
  • 行为分析:只访问特定API的IP
  • 地理位置:突发的境外IP请求

▎05 彩蛋:Redis模块安装指南

TopK功能需要RedisBloom模块,安装步骤:

# 1. 下载模块
wget https://github.com/RedisBloom/RedisBloom/archive/refs/tags/v2.4.5.tar.gz


# 2. 编译
make && cp redisbloom.so /path/to/modules/


# 3. 启动Redis时加载
redis-server --loadmodule /path/to/redisbloom.so

实战总结:

  1. 10万级以下
  2. 直接用ZSet
  3. 百万~十亿级
  4. TopK+分片
  5. 百亿级以上
  6. Flink+Redis分层存储

相关推荐

【推荐】一个开源免费、AI 驱动的智能数据管理系统,支持多数据库

如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!.前言在当今数据驱动的时代,高效、智能地管理数据已成为企业和个人不可或缺的能力。为了满足这一需求,我们推出了这款开...

Pure Storage推出统一数据管理云平台及新闪存阵列

PureStorage公司今日推出企业数据云(EnterpriseDataCloud),称其为组织在混合环境中存储、管理和使用数据方式的全面架构升级。该公司表示,EDC使组织能够在本地、云端和混...

对Java学习的10条建议(对java课程的建议)

不少Java的初学者一开始都是信心满满准备迎接挑战,但是经过一段时间的学习之后,多少都会碰到各种挫败,以下北风网就总结一些对于初学者非常有用的建议,希望能够给他们解决现实中的问题。Java编程的准备:...

SQLShift 重大更新:Oracle→PostgreSQL 存储过程转换功能上线!

官网:https://sqlshift.cn/6月,SQLShift迎来重大版本更新!作为国内首个支持Oracle->OceanBase存储过程智能转换的工具,SQLShift在过去一...

JDK21有没有什么稳定、简单又强势的特性?

佳未阿里云开发者2025年03月05日08:30浙江阿里妹导读这篇文章主要介绍了Java虚拟线程的发展及其在AJDK中的实现和优化。阅前声明:本文介绍的内容基于AJDK21.0.5[1]以及以上...

「松勤软件测试」网站总出现404 bug?总结8个原因,不信解决不了

在进行网站测试的时候,有没有碰到过网站崩溃,打不开,出现404错误等各种现象,如果你碰到了,那么恭喜你,你的网站出问题了,是什么原因导致网站出问题呢,根据松勤软件测试的总结如下:01数据库中的表空间不...

Java面试题及答案最全总结(2025版)

大家好,我是Java面试陪考员最近很多小伙伴在忙着找工作,给大家整理了一份非常全面的Java面试题及答案。涉及的内容非常全面,包含:Spring、MySQL、JVM、Redis、Linux、Sprin...

数据库日常运维工作内容(数据库日常运维 工作内容)

#数据库日常运维工作包括哪些内容?#数据库日常运维工作是一个涵盖多个层面的综合性任务,以下是详细的分类和内容说明:一、数据库运维核心工作监控与告警性能监控:实时监控CPU、内存、I/O、连接数、锁等待...

分布式之系统底层原理(上)(底层分布式技术)

作者:allanpan,腾讯IEG高级后台工程师导言分布式事务是分布式系统必不可少的组成部分,基本上只要实现一个分布式系统就逃不开对分布式事务的支持。本文从分布式事务这个概念切入,尝试对分布式事务...

oracle 死锁了怎么办?kill 进程 直接上干货

1、查看死锁是否存在selectusername,lockwait,status,machine,programfromv$sessionwheresidin(selectsession...

SpringBoot 各种分页查询方式详解(全网最全)

一、分页查询基础概念与原理1.1什么是分页查询分页查询是指将大量数据分割成多个小块(页)进行展示的技术,它是现代Web应用中必不可少的功能。想象一下你去图书馆找书,如果所有书都堆在一张桌子上,你很难...

《战场兄弟》全事件攻略 一般事件合同事件红装及隐藏职业攻略

《战场兄弟》全事件攻略,一般事件合同事件红装及隐藏职业攻略。《战场兄弟》事件奖励,事件条件。《战场兄弟》是OverhypeStudios制作发行的一款由xcom和桌游为灵感来源,以中世纪、低魔奇幻为...

LoadRunner(loadrunner录制不到脚本)

一、核心组件与工作流程LoadRunner性能测试工具-并发测试-正版软件下载-使用教程-价格-官方代理商的架构围绕三大核心组件构建,形成完整测试闭环:VirtualUserGenerator(...

Redis数据类型介绍(redis 数据类型)

介绍Redis支持五种数据类型:String(字符串),Hash(哈希),List(列表),Set(集合)及Zset(sortedset:有序集合)。1、字符串类型概述1.1、数据类型Redis支持...

RMAN备份监控及优化总结(rman备份原理)

今天主要介绍一下如何对RMAN备份监控及优化,这里就不讲rman备份的一些原理了,仅供参考。一、监控RMAN备份1、确定备份源与备份设备的最大速度从磁盘读的速度和磁带写的带度、备份的速度不可能超出这两...

取消回复欢迎 发表评论: