V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
mohulai
V2EX  ›  问与答

发现 Navicat 重大 bug,还是我打开的方式不对?

  •  
  •   mohulai · 331 天前 · 764 次点击
    这是一个创建于 331 天前的主题,其中的信息可能已经有所发展或是发生改变。

    select sum(rangeNum) as hope,analyze_id from range_analyze group by analyze_id order by hope desc; 每个 analyze_id 对应 100 条数据,都是小于 0.01 的小数,结果 sum 出来的 hope 都是 67987804 这么离谱的大数,点一下结果中的 67987804 ,又变成了 804 ,前几位不显示了,rangeNum 是 float 类型,没有做长度限制。

    但是我单独 sum 一条,select sum(rangeNum)as hope from range_analyze where analyze_id='A';这种,结果是却是对的,用 mysql workbench 执行第一条,结果也是对的

    mohulai
        1
    mohulai  
    OP
       331 天前
    好像知道为什么了,正确的结果是 0.09498471367987804 ,navicat 错误的结果 67987804 是截取了小数点最后八位,不知道为什么要这么设计。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2648 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 15:19 · PVG 23:19 · LAX 08:19 · JFK 11:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.