sxd96

sxd96

V2EX 第 78429 号会员,加入于 2014-10-24 21:32:43 +08:00
根据 sxd96 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
sxd96 最近回复了
312 天前
回复了 dangyuluo 创建的主题 macOS 是否存在两台 MacOS 之间无缝切换的办法?
Tmux
314 天前
回复了 terry1024 创建的主题 macOS edge 官方版本支持 apple silicon 了
@coolcoffee 现在是过渡阶段,等 Mac 全面 ARM 化之后我觉得 apple 会像抛弃 32 位一样抛弃 intel 部分。
358 天前
回复了 YUX 创建的主题 macOS m1 有原生 numpy scipy 了
@sxd96 感觉心里平衡了一点点,也是没关后台,mkl 库。但是我发现在核心满负载的情况下,MBP 会有一点点电啸声。虽然现在 ARM 在这上面可能差了一点点,但是如果算能效比,可能并不差。我觉得移动设备重要的还是能效比。
358 天前
回复了 YUX 创建的主题 macOS m1 有原生 numpy scipy 了
18 年 13 寸 MBP i5-8259U

Dotted two 4096x4096 matrices in 0.80 s.
Dotted two vectors of length 524288 in 0.11 ms.
SVD of a 2048x1024 matrix in 0.35 s.
Cholesky decomposition of a 2048x2048 matrix in 0.09 s.
Eigendecomposition of a 2048x2048 matrix in 3.39 s.
359 天前
回复了 subsky 创建的主题 MacBook Pro MBP, M1, 16G + 512,用电情况参考
说续航不强的人我不知道是不是没用过笔记本,还是说没用过这几个软件。
2020-08-25 20:57:38 +08:00
回复了 alihanniba 创建的主题 Apple 开发主力机: 2020 macbook pro13 VS 等 arm 2021 款 ?
@lscho 我有个小问题,jb 全家桶不都是跑在 jvm 上的么,我感觉应该是最没有问题的一批啊...
2020-06-21 00:09:30 +08:00
回复了 einsdisp 创建的主题 程序员 涉及金钱存储或计算操作时,你们一般都使用什么数据类型
@sxd96
脑子瓦特了,再更正一点。
如果要准确表示上面假设里说的 4 位小数,要 10bit 不是 4bit 。那么金额的整数部分就只有 2^42 = 4,398,046,511,104 。

在精确表示的范围内直接用 double 做算术运算也不会有问题的,也用不到什么 bigdecimal 。但是这个范围确实比我想当然的小了不少。4 个小数点存在的情况下,只能做到 4 万亿内的精确。

但是上面说的所谓 0.5 存着不是 0.5 就是开玩笑,double 的 1 那就是 1 。
用 decimal 肯定是第一反应也是最好的选择,当然没意见。但是看着这么多瞎说 double 溢出的,就很让人奇怪。
2020-06-20 23:47:46 +08:00
回复了 einsdisp 创建的主题 程序员 涉及金钱存储或计算操作时,你们一般都使用什么数据类型
@sxd96 自己更正一点。
double 的 frac 总共 52bit,精确表示数值加上前面的 sign 1bit 总共能精确表示正负 2^52 。
假设再加上可能有的 4 位小数,能精确表示的金额只有正负 2^48=281,474,976,710,656 以及后面的 4 位小数。适用场景大大受限。

事实上不做计算,仅做储存,能精确表示的范围也是相对固定的。但是我认为这个范围应该是够绝大多数公司撑到死了。
2020-06-20 23:19:58 +08:00
回复了 einsdisp 创建的主题 程序员 涉及金钱存储或计算操作时,你们一般都使用什么数据类型
@xuanbg

@joesonw

double 能不能确保存储进去和读取出来的值是一样的?

toString 将 double 解析成我肉眼看见的值,我在用 bigdecimal 计算的时候能不能确保转换后的值和 toString 的值是一样的?
知道个 overflow underflow 就看哪都是问题了?用脑子再多想两遍。
关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2183 人在线   最高记录 5497   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 15:54 · PVG 23:54 · LAX 07:54 · JFK 10:54
♥ Do have faith in what you're doing.