百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

Redis老了吗?Redis与Dragonfly性能比较

mhr18 2024-11-07 10:56 23 浏览 0 评论


最近一个新项目 Dragonfly 声称是最快的 Redis 兼容内存数据存储。

Dragonfly 基准测试将独立的单进程 Redis 实例(只能利用单个内核)与多线程 Dragonfly 实例(可以利用 VM/服务器上的所有可用内核)进行比较。(btw:实际上这就是现实世界中实际运行方式)
Redis认为:这种比较并不能代表 Redis 在现实世界中的运行方式。
Redis做了一项公平的比较,并将 40 个节点机器的Redis 7.0集群(可以利用大部分实例核心)与单台机器上Dragonfly比较(btw:注意是40台服务器 vs. 1台服务器多线程):
使用 Dragonfly 团队在其基准测试中使用的最大实例类型AWS c6gn.16xlarge进行的一组性能测试.
在Redis试验中,我们看到 Redis 的吞吐量比 Dragonfly 高 18% - 40%,即使仅使用 64 个 vCore 中的 40 个也是如此。

架构原则
每个 VM 运行多个 Redis 实例
每个 VM 运行多个 Redis 实例可以让我们:

  1. 使用完全无共享的架构,在垂直和水平方向上线性扩展。与仅垂直扩展的多线程架构相比,这将始终提供更大的灵活性。
  2. 提高复制速度,因为复制是跨多个进程并行完成的。
  3. 从 VM 故障中快速恢复,因为新 VM 的 Redis 实例将同时填充来自多个外部 Redis 实例的数据。


将每个 Redis 进程限制在合理的大小
我们不允许单个 Redis 进程的大小超过 25 GB(在 Flash 上运行 Redis时为 50 GB )。这使我们能够:

  • 在 fork Redis 进行复制、快照和仅附加文件 (AOF) 重写时,享受写时复制的好处,而无需支付大内存开销的代价。如果您不这样做,“是”,您(或您的用户)将付出高昂的代价,如此处所示。
  • 为了轻松管理我们的集群,以快速的方式迁移分片、重新分片、扩展和重新平衡,因为 Redis 的每个实例都保持很小。


横向扩展是最重要的
通过水平扩展运行内存数据存储的灵活性非常重要。以下是几个原因:

  • 更好的弹性——您在集群中使用的节点越多,您的集群就越健壮。例如,如果您在一个 3 节点集群上运行数据集,并且一个节点降级,则有 1/3 的集群没有运行;但是,如果您在 9 节点集群上运行数据集并且一个节点降级,那么只有 1/9 的集群没有执行。
  • 更容易扩展——向集群添加一个额外的节点并将数据集的一部分迁移到它要容易得多,而不是垂直扩展,你需要带来一个更大的节点并复制整个数据集(并考虑所有在这个可能漫长的过程中可能发生的坏事……)
  • 逐步扩展更具成本效益——垂直扩展,尤其是在云中,成本高昂。在许多情况下,即使您只需要向数据集添加几 GB,您也需要将实例大小加倍。
  • 高吞吐量——在 Redis,我们看到许多客户在小型数据集上运行高吞吐量工作负载,具有非常高的网络带宽和/或高每秒数据包 (PPS) 需求。考虑一个具有 1M+ 操作/秒用例的 1GB 数据集。在单节点 c6gn.16xlarge 集群(128GB,64 个 CPU 和 100gbps,2.7684 美元/小时)而不是 3 节点 c6gn.xlarge 集群(8GB。4 个 CPU 最高 25Gbps,每个 0.1786 美元/小时)上运行它是否有意义) 成本低于 20%,而且方式更稳健?能够在保持成本效益和提高弹性的同时增加吞吐量似乎是这个问题的简单答案。
  • NUMA 的现实——垂直扩展也意味着运行具有多核和大型 DRAM 的双插槽服务器;这种基于NUMA的架构非常适合像 Redis 这样的多处理架构,因为它的行为更像是一个由较小节点组成的网络。但 NUMA 对于多线程架构更具挑战性,根据我们在其他多线程项目中的经验,NUMA 可以将内存数据存储的性能降低多达 80%。
  • 存储吞吐量限制——AWS EBS 等外部磁盘的扩展速度不如内存和 CPU。事实上,云服务提供商会根据所使用的机器类别施加存储吞吐量限制。因此,有效扩展集群以避免已经描述的问题并满足高数据持久性要求的唯一方法是使用水平扩展,即添加更多节点和更多网络附加磁盘。
  • 临时磁盘——临时磁盘是在 SSD 上运行 Redis 的绝佳方式(SSD 用作 DRAM 替代品,但不作为持久存储)并在保持 Redis 速度的同时享受基于磁盘的数据库的成本(看看我们如何在 Flash 上使用Redis执行此操作)。同样,当临时磁盘达到其限制时,最好的方法,并且在许多情况下,扩展集群的唯一方法是添加更多节点和更多临时磁盘。
  • 商品硬件——最后,我们有许多在本地数据中心、私有云甚至小型边缘数据中心运行的本地客户;在这些环境中,很难找到内存超过 64 GB 和 8 个 CPU 的机器,而且唯一的扩展方式是横向扩展。


Reddit网友评:
1、Redis认为:你只需要付出额外的努力和开销来运行更多的 redis 进程副本,将它们联网,这完全没问题!看,完全可比且可行。
但是用户认为:运行一个从头开始设计以更好地利用资源并围绕现代 CPU 假设设计的单个应用程序,例如Dragonfly,反而是一种更好的方法
2、Redis运行 40 个复制节点才取得稍微好一点的结果,Dragonfly自称比Redis快,是比较一台机器上单线程redis实例与Dragonfly在所有线程上运行,而Redis这个实验,是用多台服务器去战胜一台服务器上多线程的Dragonfly。
因为Redis是单线程的,为了获得高性能,必须建立 40 多个节点集群,带来额外管理维护成本。

原文:Redis老了吗?Redis与Dragonfly性能比较

相关推荐

【预警通报】关于WebLogic存在远程代码执行高危漏洞的预警通报

近日,Oracle官方发布了2021年1月关键补丁更新公告CPU(CriticalPatchUpdate),共修复了包括CVE-2021-2109(WeblogicServer远程代码执行漏洞)...

医院信息系统突发应急演练记录(医院信息化应急演练)

信息系统突发事件应急预案演练记录演练内容信息系统突发事件应急预案演练参与人员信息科参与科室:全院各部门日期xxxx-xx-xx时间20:00至24:00地点信息科记录:xxx1、...

一文掌握怎么利用Shell+Python实现完美版的多数据源备份程序

简介:在当今数字化时代,无论是企业还是个人,数据的安全性和业务的连续性都是至关重要的。数据一旦丢失,可能会造成无法估量的损失。因此,如何有效地对分布在不同位置的数据进行备份,尤其是异地备份,成为了一个...

docker搭建系统环境(docker搭建centos)

Docker安装(CentOS7)1.卸载旧版Docker#检查已安装版本yumlistinstalled|grepdocker#卸载旧版本yumremove-ydocker.x...

基础篇:数据库 SQL 入门教程(sql数据库入门书籍推荐)

SQL介绍什么是SQLSQL指结构化查询语言,是用于访问和处理数据库的标准的计算机语言。它使我们有能力访问数据库,可与多种数据库程序协同工作,如MSAccess、DB2、Informix、M...

Java21杀手级新特性!3行代码性能翻倍

导语某券商系统用这招,交易延迟从12ms降到0.8ms!本文揭秘Oracle官方未公开的Record模式匹配+虚拟线程深度优化+向量API神操作,代码量直降70%!一、Record模式匹配(代码量↓8...

一文读懂JDK21的虚拟线程(java虚拟线程)

概述JDK21已于2023年9月19日发布,作为Oracle标准Java实现的一个LTS版本发布,发布了15想新特性,其中虚拟线程呼声较高。虚拟线程是JDK21中引入的一项重要特性,它是一种轻量级的...

效率!MacOS下超级好用的Linux虚拟工具:Lima

对于MacOS用户来说,搭建Linux虚拟环境一直是件让人头疼的事。无论是VirtualBox还是商业的VMware,都显得过于笨重且配置复杂。今天,我们要介绍一个轻巧方便的纯命令行Linux虚拟工具...

所谓SaaS(所谓三维目标一般都应包括)

2010年前后,一个科技媒体的主编写一些关于云计算的概念性问题,就可以作为头版头条了。那时候的云计算,更多的还停留在一些概念性的问题上。而基于云计算而生的SaaS更是“养在深闺人未识”,一度成为被IT...

ORA-00600 「25027」 「x」报错(报错0xc0000001)

问题现象:在用到LOB大对象的业务中,进行数据的插入,失败了,在报警文件中报错:ORA-00600:内部错误代码,参数:[25027],[10],[0],[],[],[],[],[...

安卓7源码编译(安卓源码编译环境lunch失败,uname命令找不到)

前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...

编译安卓源码(编译安卓源码 电脑配置)

前面已经下载好源码了,接下来是下载手机对应的二进制驱动执行编译源码命令下载厂商驱动https://developers.google.com/android/drivers?hl=zh-cn搜索NGI...

360 Vulcan Team首战告捷 以17.5万美金强势领跑2019“天府杯“

2019年11月16日,由360集团、百度、腾讯、阿里巴巴、清华大学与中科院等多家企业和研究机构在成都联合主办了2019“天府杯”国际网络安全大赛暨2019天府国际网络安全高峰论坛。而开幕当日最激荡人...

Syslog 日志分析与异常检测技巧(syslog发送日志配置)

系统日志包含有助于分析网络设备整体运行状况的重要信息。然而,理解并从中提取有效数据往往颇具挑战。本文将详解从基础命令行工具到专业日志管理软件的全流程分析技巧,助你高效挖掘Syslog日志价值。Gr...

从Oracle演进看数据库技术的发展(从oracle演进看数据库技术的发展的过程)

数据库技术发展本质上是应用需求驱动与基础架构演进的双向奔赴,如何分析其技术发展的脉络和方向?考虑到oracle数据库仍然是这个领域的王者,以其为例,管中窥豹,对其从Oracle8i到23ai版本的核...

取消回复欢迎 发表评论: