博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
DECIAML字段字节计算
阅读量:6976 次
发布时间:2019-06-27

本文共 546 字,大约阅读时间需要 1 分钟。

前言

最近在看《深入浅出MySQL》一书,看到了数值类型那一节。里面介绍了一些常用字段的相关信息,如字节长度、最大值、最小值等。

当看到 DECIMAL 字段时,它的字节数是 M+2,这个让我很不解,是为什么?

查阅+理解

DECIAMLFLOATDOUBLE 的存储方式不同。

FLOATDOUBLE 是用二进制存储数据的,所以会有部分精度问题。

DECIAML 是用字符串的方式存储的,所以它不存在精度问题,那么它的长度就是存储字节的长度。

那么问题来了,例如:DECIMAL(5,2) 的最大值是 999.99,那么总长度也就是 5+1,又为什么是 5+2 呢?

隐藏的 +

第二天工作的时候,帮忙拉取一个数据,就手动操作了一把,其中两个数据要相加一下。当我看到那个 + 号时,我想通了。

DECIMAL 也是有符号位的,而当时我只看的最大值,如果看最小值的话,就能够想通为什么是 M+2 了。

所以最终 DECIMAL 的长度计算方式是:1个字节的符号位 + 一个字节的小数点位 + 纯数字的长度(M) = 1 + 1 + M = M + 2。

结语

困点得以解决,这种思考是被人直接告知要更加难得的,问题虽小,值得纪念。

-- EOF --

本文转载自

原文链接:

你可能感兴趣的文章
AlwaysVisibleControlExtender
查看>>
开源代码hosting openfoundryfrom tw
查看>>
HDU 4738 Caocao's Bridges (2013杭州网络赛1001题,连通图,求桥)
查看>>
topas解析(AIX)
查看>>
wxWidgets刚開始学习的人导引(3)——wxWidgets应用程序初体验
查看>>
为什么企业选择年底裁员?如何选择一个正确的公司!
查看>>
高德联手凯迪拉克 发布全球首个高精地图应用
查看>>
2018年IT市场最大的技术趋势和热点预测
查看>>
C语言竟成TIOBE年度编程语言候选!苹果iPhone 7卖得最好!
查看>>
云南实现手机自主补(换)领居民身份证
查看>>
呼伦湖国家级自然保护区管理局投放草料保野生黄羊过冬
查看>>
让普通视频变成慢动作:「AI加帧」技术现已开源
查看>>
实现一个完美符合Promise/A+规范的Promise
查看>>
前端 排序算法总结
查看>>
使用Vue+Spring Boot实现Excel上传
查看>>
linux学习笔记一
查看>>
工程师日常迷信指南
查看>>
bats-Bash自动化测试工具
查看>>
CSS题目系列(3)- 实现文字切割效果
查看>>
用mpvue实现的微信小程序版cnode社区
查看>>