首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 数据库 > Mysql >

MySQL float 部类的精度

2012-08-16 
MySQL float 类型的精度MySQL float 类型的精度总结:要得到1位或2位精确小数的话,整数不能高于 32767即:f

MySQL float 类型的精度
MySQL float 类型的精度
总结:




要得到1位或2位精确小数的话,整数不能高于 32767

即:f<32767.99

因为 2E15=32768

所以最多只能正确处理0~32767的整数,


要得到3位 精确 小数的话,整数不能高于16383

即:f< 16383 .999

因为 2E14=16384





要得到4位 精确 小数,整数不能高于2047

即:f< 2047 .9999

而 2E11=2048



要得到5位 精确 小数,整数不能高于127

即:f< 127 .99999

而 2E7=128



要得到6位 精确 小数,整数不能高于15

即:f<15 .999999

而 2E4=16


要得到7位 精确 小数,整数不能高于0

即:f< 0 .9999999

而 2E0=0


要得到8位以上的 精确 小数,是不可能的

即:f不存在


笔者得到了一些数据,不过得不到它变化的规律,还请高人指点

热点排行