sgissb1
V2EX  ›  问与答

关于字段个数、类型不确定的数据处理,何种方式处理比较合适。需要做数据筛选和排序等

  •  
  •   sgissb1 · Aug 18, 2015 · 1712 views
    This topic created in 4015 days ago, the information mentioned may be changed or developed.
    我们后台有个日志服务,我们通过不规范的 json 格式作为容器保存日志数据。
    然后日志数据存在文件里面,这些日志数据要做成可视化的。

    现在问题来了,这个日志服务我们改动最多,尤其是字段往往会新增,而且新增还很多。

    目前我们用 shell 做正则(后续用统一的 json 库来处理),将日志匹配出来然后在入库。

    现在发现很麻烦,尤其是入库这里,一出现字段新增就要手动增加表字段,加不好还会带来性能问题。最后还要分表、分库什么的。

    目前有没有什么比较灵活的方式来支撑我们频繁增、删、改字段并达到数据可视化(数据筛选和排序等)。通过页面做可视化。
    3 replies    2015-08-19 08:38:44 +08:00
    9hills
        1
    9hills  
       Aug 18, 2015 via iPad
    mongodb,不过要想提高性能还得做些功课
    sgissb1
        2
    sgissb1  
    OP
       Aug 19, 2015
    @9hills nongodb 不是和 mysql 一样是关系数据库吗?难道是松散结构的?
    sgissb1
        3
    sgissb1  
    OP
       Aug 19, 2015
    @9hills 看错了,是非关系数据库
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2611 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 15:42 · PVG 23:42 · LAX 08:42 · JFK 11:42
    ♥ Do have faith in what you're doing.