jry
V2EX  ›  问与答

2 个 exlcel 千万条手机号,怎么合并去重呢?

  •  
  •   jry · May 2, 2021 · 3287 views
    This topic created in 2019 days ago, the information mentioned may be changed or developed.

    用 mysql 、es 、mongodb 、其它哪一种合适?

    15 replies  •  2021-05-08 18:02:09 +08:00
    heyjei
    heyjei
    May 2, 2021
    1
    linux 命令中的 sort | uniq 是最简单的方案。如果是 Windows, 安装了 git bash,应该附带了这两个命令
    wellsc
    wellsc
    May 2, 2021 via iPhone❤️1
    2
    一楼审题了吗
    koast
    koast
    May 2, 2021 via Android❤️1
    3
    其实一楼没毛病啊,只要打开这两个 excel,文件,导出为 csv,然后 sort|uniq 就行了,无非就是多等一会的事情。几乎不需要考虑什么...
    Baboonowen
    Baboonowen
    May 3, 2021 via Android
    5
    Excel 自带去重。。一键去重。。
    dzdh
    dzdh
    May 3, 2021
    6
    需要经常使用,找个数据库。
    就用一次,145 楼都可
    jr55475f112iz2tu
    jr55475f112iz2tu
    May 3, 2021
    7
    我好奇这千万条手机号是哪里来的
    HankLu
    HankLu
    May 3, 2021
    8
    @czfy 你懂得
    xupefei
    xupefei
    May 3, 2021 via iPhone❤️1
    9
    Sort uniq 性能肯定不如直接去重啊。
    你这数据量随便写个脚本用 hashmap 跑一遍就行了,不需要数据库。
    renmu123
    renmu123
    May 3, 2021 via Android
    10
    然后发现最大的问题是从 xlsx 读取这个千万条数据
    matrix67
    matrix67
    May 3, 2021
    11
    @koast #3 对 一楼没毛病,二楼是要导出都写在步骤里


    @czfy #7 社工库?黑产警告!!
    8e47e42
    8e47e42
    May 3, 2021 via iPhone
    12
    @xupefei sort | unique = O(n log n)
    Hash 最差可能是 O(n^2)最好可能是 O(n)
    sort 的内存占用远好于 hashmap
    因此不一定 hash 更优
    drawstar
    drawstar
    May 4, 2021
    13
    @Baboonowen 千万条的 excel 估计打不开吧
    jry
    jry
    OP
    May 4, 2021
    14
    还要得到新旧合并、新旧合并不含重复,重复,三分数据。
    BQsummer
    BQsummer
    May 8, 2021
    15
    看标题我还以为是算法题呢,用 bitmap 处理[doge]
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4562 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 03:41 · PVG 11:41 · LAX 19:41 · JFK 22:41
    ♥ Do have faith in what you're doing.