树叶云OceanBase教程里讲的浮点数字那些事儿，感觉挺复杂又有点意思

树叶云OceanBase教程里讲的浮点数字那些事儿,确实是把一个我们平时不太注意、但电脑世界里又特别基础的问题给掰开揉碎了，它没有一上来就扔出一堆天书般的术语，而是从一个我们都能感同身受的矛盾点切入：为什么在计算器里输入0.1加0.2，有时候得到的不是完美的0.3，而是一个像0.30000000000000004这样带着一长串小尾巴的数字？

教程解释说,这根本不是计算器坏了，也不是程序有bug，根源在于我们熟悉的十进制和电脑底层使用的二进制之间，存在一种“沟通障碍”。（来源：树叶云OceanBase教程）对于我们人类来说，十进制非常直观，但电脑的CPU只认识0和1，所有我们输入的数字，最终都要被转换成二进制来存储和计算。

问题就出在这个转换上,教程里打了个很形象的比方：有些数在十进制里是“有限小数”，比如0.5，转换成二进制就是0.1，非常规整，但更多我们觉得简单的数，在二进制世界里却成了“无限循环小数”。（来源：树叶云OceanBase教程）比如0.1这个在十进制里一位就搞定的小数，在二进制里却变成了一个永远也写不完的循环小数，就像十进制的1/3等于0.33333...一样，永远没尽头。

电脑的内存是有限的,不可能真的把一个无限长的数存下来，它必须做出妥协，进行“四舍五入”，只保留这个无限循环小数开头的某一位，这就导致了精度的丢失，当你把0.1和0.2这两个在二进制下都已经不精确的数字相加时，误差就可能被放大，最终结果自然就和理想的0.3有了一点点微小的差别。

那OceanBase这样的数据库怎么处理这个棘手的问题呢？教程介绍了两种主要的思路，非常实用。（来源：树叶云OceanBase教程）

第一种思路是,如果你处理的数字对精度要求极高，一分一毫都不能差，比如和钱有关的计算，那就干脆彻底避开浮点数，OceanBase提供了DECIMAL（或者叫NUMERIC）这种数据类型，它本质上是按照字符串的方式来存储和处理数字的，专门用来表示固定精度和小数位数的数值，你用DECIMAL类型来存10.23元，它就不会给你变成10.2299999999，确保计算分毫不差，这种精确是有代价的，就是计算起来会比浮点数慢一些，占用的空间也可能更大。

第二种思路是,当你确实需要处理非常大或者非常小的数字，比如科学计算、统计分析，对绝对精度要求不是那么严苛，但需要很宽的数值范围时，浮点数依然是不可替代的工具，教程里提到了OceanBase支持标准的FLOAT和DOUBLE类型。（来源：树叶云OceanBase教程）这时，作为开发者，心里就得有杆秤，要清楚地知道自己正在使用一个近似值，在需要比较两个浮点数是否“相等”时，不能直接写等号，而是应该判断它们之间的绝对值差是否在一个非常非常小的可接受范围内（比如小于0.000001），这样就可以认为它们“差不多”相等了。

教程最后还提了一个很有趣的冷知识,说Java语言里有个叫StrictMath的类，它为了保证计算结果在任何电脑上都完全一致，甚至会牺牲掉一些性能。（来源：树叶云OceanBase教程）这背后其实是IEEE 754这个浮点数工业标准在起作用，这个标准就像给大家立了规矩，让不同的计算机系统在处理浮点数时能有一致的表现，虽然它解决了“一致性”的问题，但并没能消除浮点数本身“不精确”的固有特性。

树叶云这个教程给人的感觉就是,它没有把浮点数妖魔化，而是很客观地告诉你它的“脾气”：它能力强大，但有个小缺点，用不用它，取决于你的业务场景，你要做金融交易，那就老老实实用DECIMAL；你要处理海量科学数据，那就明智地选择FLOAT/DOUBLE，同时心里绷紧精度误差这根弦，了解了这些，再遇到0.1+0.2不等于0.3的情况，你就能会心一笑，知道这不是世界末日，而是计算机世界一个有趣又无奈的现实了。