V2EX › ls2995 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

已注册用户请登录

2018-12-09 23:20:40 +08:00

@dhairoot 你是什么项目啊？ spark 解析写咋样了

2018-12-08 22:28:27 +08:00

@dhairoot 我用 spark 实现了，但是性能不是很好，我们公司要求有点高，集群性能不太好吧还要求速度，所以分别跑不太现实，而且每周还会来 3T 左右的 zip 文件，必须要尽快解压分析入库，现在正写 spark 解析 xml 呢，有点烦躁

2018-12-03 14:25:28 +08:00

@dhairoot 证券数据,解析入库后分析

2018-11-28 09:03:42 +08:00

我跟你的任务咋这么一致呢,我是大概 8T 的 zip 文件在 hdfs 上,里面也都是 xml,我需要解压后再在集群上做解析存到 hbase,我解压就是看你发的那个链接写出来的,但是性能确实不太好,你最后是怎么解决的?