drymonfidelia
V2EX  ›  数据库

风控系统用 MongoDB 会不会性能更好?采集的数据字段很杂

  •  
  •   drymonfidelia · Apr 29, 2024 · 2974 views
    This topic created in 926 days ago, the information mentioned may be changed or developed.
    13 replies  •  2024-05-06 09:15:17 +08:00
    raycool
    raycool
    Apr 30, 2024
    1
    现在用的啥
    drymonfidelia
    drymonfidelia
    OP
    Apr 30, 2024
    2
    @raycool 现在用的 MySQL ,太卡顿了,而且数据库体积非常大,正在计划重构
    jhdxr
    jhdxr
    Apr 30, 2024
    3
    直接 ETL ?
    jhdxr
    jhdxr
    Apr 30, 2024
    4
    打错了,我想说 ELK
    Belmode
    Belmode
    Apr 30, 2024
    5
    之前做过类似的,这种系统用 MongoDB 类的数据库,天然合适。不过有点需要主要,需要规划好文档结构和集合规模,还有要考虑索引的 key 。
    因为数量达到一定程度,还是会慢,并且数据集合过大,MongoDB 直接无法 count 了。

    1 、预估数据规模,设定需要的硬件配置
    2 、选择单独分片还是分片分表,决定集群方案
    3 、尽可能减少索引数据量,因为 MongoDB 会在 index 时把所有对应的索引完全载入内存,会导致内存占用高
    4 、仅作业务分析,避免多文档事务
    5 、聚合计算尽可能降低规模,提高查询效率、count 效率。

    基本上单集合几亿数据毫无压力
    locoz
    locoz
    Apr 30, 2024 via Android
    6
    建议考虑用 ES ,应该会比 MongoDB 更适合
    qW7bo2FbzbC0
    qW7bo2FbzbC0
    Apr 30, 2024
    7
    MongoDB 数据量大了,官方只有逻辑备份的工具,备份挺困难的,一次备份持续好几天。percona 物理备份工具需要使用 percona 分支的 MongoDB 。

    elastic 需不需要备份,有物理备份方式吗?
    dododada
    dododada
    Apr 30, 2024
    8
    @qW7bo2FbzbC0 上海机房备份到北京机房?
    vczyh
    vczyh
    Apr 30, 2024
    9
    @qW7bo2FbzbC0 直接把 data 目录备份可行不
    vczyh
    vczyh
    Apr 30, 2024
    10
    @qW7bo2FbzbC0 MongoDB
    qW7bo2FbzbC0
    qW7bo2FbzbC0
    Apr 30, 2024
    11
    @dododada
    @vczyh

    不知道,没试过,大哥您可以试试再告诉我们。就是日常备份啊
    lenmore
    lenmore
    Apr 30, 2024
    12
    @qW7bo2FbzbC0 我是用 LVM 卷的 snapshot 做物理备份。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1026 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 138ms · UTC 18:25 · PVG 02:25 · LAX 10:25 · JFK 13:25
    ♥ Do have faith in what you're doing.