百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

如何对数字进行四舍五入,进一法,去尾法,精度法等不同方式取舍

mhr18 2024-12-20 12:04 27 浏览 0 评论

指定位数取有效位

针对数值我们有不同的处理方式,比如保留一位小数位,保留两位小数位,保留整数位等,一般我们都是采用四舍五入的方式保留,

比如3.15保留一位小数位是3.2

3.14保留1位小数位是3.1

但是有时候我们需要进一法,比如保留两位小数,我们要看第三位小数,不管第三位是几我们都进一,比如3.14,3.15保留1位小数都返回3.2

如果是下舍或者舍入法,不管第三位是几我们都舍去。比如3.14,3.15保留1位小数都返回3.1

=ROUND(要进行取舍的数字,保留到哪一位)

=ROUND(3.14,1)将数字3.14保留1位有效位

第二个参数是1就是保留1位小数位,参数是2就是保留2位小数位,依此类推

第二个参数是0就是保留整数位

第二个参数是-1就是保留十位,参数是-2就是保留百位,依此类推

=ROUNDUP(要进行取舍的数字,保留到哪一位)

=ROUNDDOWN(要进行取舍的数字,保留到哪一位)

ROUND,ROUNDUP,ROUNDDOWN三者用法一样,返回结果有差异

ROUND四舍五入取有效位,

ROUNDUP向上进一法取有效位,

ROUNDDOWN向下舍入法取有效位


指定精度取有效位

=FLOOR.MATH(要取指定精度的数,精度) 返回的是指定精度整数倍的下舍精度,有点类似rounddown向下去有效位

比如

=FLOOR.MATH(3.2,0.5)对3.2求精度为0.5的最接近的下舍数,3.0是0.5的整数倍,剩余0.2不到0.5的一半,舍去

=FLOOR.MATH(3.3,0.5)对3.3求精度为0.5的最接近的下舍数,3.0是0.5的整数倍,剩余0.3超过0.5的一半,舍去

=FLOOR.MATH(3.5,0.5)对3.5求精度为0.5的最接近的下舍数,3.5刚好是0.5的整数倍

=MROUND(要取指定精度的数,精度) 返回的是指定精度整数倍的下舍精度,有点类似round四舍五入,这里是超过精度一半进一,不够一半舍去

=MROUND(3.2,0.5) 对3.2求精度为0.5的最接近的四舍五入数,3.0是0.5的整数倍,剩余0.2不到0.5的一半,舍去

=MROUND(3.3,0.5) 对3.3求精度为0.5的最接近的四舍五入数,3.0是0.5的整数倍,剩余0.3大于0.5的一半,进位一个精度的整数倍 也就是3.5

=MROUND(3.5,0.5) 对3.5求精度为0.5的最接近的四舍五入数,3.5是0.5的整数倍,3.5刚好是0.5的整数倍,不存在舍入

当然精度也可以是0.1,0.2,1,10等等,可以自己尝试看看输出结果是怎样的

相关推荐

SQL入门知识篇(sql入门新手教程视频)

一、什么是数据库?什么是SQL?1、数据库:存放数据,可以很多人一起使用2、关系数据库:多张表+各表之间的关系3、一张表需要包含列、列名、行4、主键:一列(或一组列),其值能够唯一区分表中的每个行。5...

postgresql实现跨库查询-dblink的妙用

技术导语:用惯了oracle的dblink,转战postgresql,会一时摸不着头脑。本期就重点详细讲解postgresql如何安装dblink模块及如何使用dblink实现跨库查询。安装cont...

Oracle VM VirtualBox虚拟机软件(oracle vm virtualbox win10)

OracleVMVirtualBox是一款完全免费的虚拟机软件,下载银行有提供下载,软件支持安装windows、linux等多个操作系统,让用户可以在一台设备上实现多个操作系统的操作。同时软件有着...

开源 SPL 轻松应对 T+0(开源srs)

T+0问题T+0查询是指实时数据查询,数据查询统计时将涉及到最新产生的数据。在数据量不大时,T+0很容易完成,直接基于生产数据库查询就可以了。但是,当数据量积累到一定程度时,在生产库中进行大数据...

中小企业佳选正睿ZI1TS4-4536服务器评测

随着科技的不断发展,各行各业对于数据使用越加频繁,同时针对服务器的选择方面也就越来越多样化和细分化。那么对于我们用户来说,如何选择符合自身业务需求和最优性价比的产品呢?笔者将通过刚刚购买的这台服务器的...

MFC转QT:Qt基础知识(mfc和qt的区别)

1.Qt框架概述Qt的历史和版本Qt是一个跨平台的C++应用程序开发框架,由挪威公司Trolltech(现为QtCompany)于1991年创建。Qt的发展历程:1991年:Qt项目启动1995年...

数据库,QSqlTableModel(数据库有哪些)

QMYSQL——mysqlQSQLITE——sqliteQOICQ——orcale所需头文件.pro增加sql#include<QSqlDatabase>#include<Q...

python通过oledb连接dbf数据库(python连接jdbc)

起因:因为工作需要,需要读取dbf文件和系统数据中数据进行校对,因为知道dbf文件可以用sql查询,所以想能不能像mysql/oracle那样连接,再调用执行sql方法,通过一系列百度,尝试,最终通过...

Excel常用技能分享与探讨(5-宏与VBA简介 VBA与数据库)

在VBA(VisualBasicforApplications)中使用数据库(如Access、SQLServer、MySQL等)具有以下优点,适用于需要高效数据管理和复杂业务逻辑的场景:1....

Excel常用技能分享与探讨(5-宏与VBA简介 VBA与数据库-二)

以下是常见数据库软件的详细配置步骤,涵盖安装、驱动配置、服务启动及基本设置,确保VBA能够顺利连接:一、MicrosoftAccess适用场景:小型本地数据库,无需独立服务。配置步骤:安装Acces...

Windows Docker 安装(docker安装windows容器)

Docker并非是一个通用的容器工具,它依赖于已存在并运行的Linux内核环境。Docker实质上是在已经运行的Linux下制造了一个隔离的文件环境,因此它执行的效率几乎等同于所部署的L...

Windows下安装Ubuntu虚拟机方法(windows下安装ubuntu20)

在Windows下安装Ubuntu虚拟机。选择使OracleVMVirtualBox安装Ubuntu虚拟机。1.下载和安装OracleVMVirtualBox:访问OracleVMVir...

java入门教程1 - 安装和配置(win和linux)

windows安装和配置安装javahttps://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html目前大部分项目的...

Centos7 安装Tomcat8服务及配置jdk1.8教程

1、下载jdk1.8压缩包下载地址:https://www.oracle.com/java/technologies/javase/javase8-archive-downloads.htmltom...

全网最完整的免费java教程讲义(一)——java配置和安装

一,安装Java1)安装JDK要学习和使用java,首先需要安装JDK(JavaDevelopemntKit),相当于java安装包。Java的下载页在甲骨文官网上:https://www.or...

取消回复欢迎 发表评论: