如果想在 V2EX 获得更好的推广效果,欢迎了解 PRO 会员机制:
https://www.v2ex.com/pro/about

如果你经常使用铜币置顶主题,持有 V2EX Solana Token 会在每日签到时获得额外铜币:
https://www.v2ex.com/solana
itskingname
V2EX  ›  推广

数据工程师妹子养成手记——数据库篇[盖楼送书]

  •  
  •   itskingname · Feb 23, 2019 · 12149 views
    This topic created in 2810 days ago, the information mentioned may be changed or developed.

    这篇文章没有代码,请放心阅读。

    程序员最宝贵的东西是生命,生命属于程序员只有一次。一个程序员的一生应该这样度过:当她回首往事的时候,她不会因为搭建环境浪费时间而悔恨,也不会因为集群无法运行而羞耻。这样,在她开发的时候,她能够说:“我的整个生命和全部精力,都已经献给了开发中最重要的事情——设计程序,实现程序和调 Bug。” —— P 酱。

    P 酱是公司新来的实习生妹子。听说是一个文科生。文科生应该会去文案组或者策划组吧。什么?来数据组?让我来带?

    于是我和 P 酱~~生活~~工作在了一起。

    P 酱你会些什么?

    “我叫 P 酱,在 XX 大学读研二,爱好是拍照和被拍,大家可以在 B 站找到我跳舞的视频,比如 av170001。我的另外一个爱好是写代码……”

    当一个文科妹子说自己喜欢写代码的时候,整个办公室热闹了起来。

    “ P 酱,听说你喜欢写代码,那你写过什么东西吗?”新人介绍会议结束以后,我问 P 酱。

    “一般都是各种分析程序,我们的专业要做很多调查报告,他们都是用 Excel 来计算的。我喜欢用 Python 来把这些统计过程自动化。后来也写过自动写诗的程序、鬼畜视频生成器等等。”

    “真不敢相信你是文科生。这么说你的兴趣是数据分析方向咯?”

    “其实我对师父你做的爬虫很有兴趣。但是听说会经常和网站发生对抗?女孩子还是不要打打杀杀的好~”

    于是我让 P 酱负责对爬虫的原始数据进行清洗、整理并做简单的分析。

    一种船新的数据储存方式

    “ P 酱,爬虫抓到的原始数据是存放在 MongoDB 里面的,你的 Python 还不错吧,你试一试用 Python 来读写 MongoDB 看看。”

    “ MongoDB 是什么呀?”

    “是一个和 MySQL 不太一样的数据库。”

    “ MySQL 我知道,MongoDB 和 MySQL 有什么不一样呢?”

    “我举个例子,当你要插入数据的时候,你需要做的,就是‘插入’。咳咳,你不要脸红,我是指你不需要写 SQL 语句、不需要建表、不需要提前定义字段。仅仅只需要一行代码就能够实现了。我这里给你写了一篇文档,讲到了 MongoDB 的增删改查,你试一试。数据库已经给你搭建好了,你直接连上去用吧”

    半天以后。

    “师父,我已经会使用 MongoDB 啦。”

    “你读爬虫的原始数据,主要涉及到的就是查询操作,为了巩固插入、修改和删除的操作,再给你一个小任务吧。试一试写一个人员管理系统吧。”

    既然有关系,就整整齐齐放在一起看吧

    “ P 酱,你看起来很高兴的样子啊。”

    “因为我觉得 MongoDB 比起 MySQL 太简单了啊~”

    “你确定?那我看看你怎么对整行数据去重的?”

    “师父,我知道 distinct 关键字可以对一个字段去重。但是整行数据我是读出来用 Python 来去重的。”

    “这个时候你就要用到 MongoDB 的聚合查询了。文档已经给你写好了,拿去看吧。”

    “还有还有,这里你把店铺信息和菜单信息放在了两个集合里面,我怎么样才能把他们联表查询出来呢?”

    “联表查询是 MySQL 里面的操作,在 MongoDB 里面,没有表,只有集合,所以叫做联集合查询更恰当一些。这也是要用到聚合查询,也在这个文档里面了。”

    再给你一个玩具吧。

    “ P 酱,之前让你做的爬虫数据监控系统怎么样了?”

    “功能已经做好了,但是有一个地方查询起来特别慢。我已经加过索引了,但还是很慢。怀疑是同时联了四个集合的数据造成的。”

    “这边的数据实际上每小时才更新一次,你没有必要每次刷新页面都去查询 MongoDB 的。我觉得是时候让你用一下 Redis 做缓存了。”

    “ Redis 就是那个内存数据库吗?我知道我知道。”

    “给你写了一份文档,包含 Redis 里面的各种数据类型和使用方式。你试一试把 Redis 和 MongoDB 结合起来看看能不能提高速度。”

    你怎么擅自加功能啊!

    “ P 酱,你怎么在爬虫监控系统的网页上加了一个广播窗口?”

    “呀,被师父发现了。因为我想到同一个爬虫可能会被几个人监控,所以就用 Redis 的发布订阅功能做出来了这个广播的功能。一旦爬虫状态发生改变,所有人都能收到推送。”

    “既然你这么闲,那不如加上账号登录功能,把权限验证也做上去?不同的人只能看到自己负责的爬虫。顺便你可以试一试用 Redis 实现……”

    “实现布隆过滤器和 Session 管理是吗?”

    “你怎么知道我要说什么?”

    “因为我早上看到你在文档上面更新了布隆过滤器和 Session 管理相关的内容啊~”

    红色的锁?

    “师父师父,你知道什么是 RedLock 吗?”

    “你学得这么快?都知道 RedLock 了? RedLock 是 Redis 官方给出的分布式锁的算法。已经有很多编程语言实现它了。”

    “原来 RedLock 只是一个算法啊……”

    为什么我学的这么快呢?

    “师父师父,我觉得很奇怪啊,为什么 MongoDB 和 Redis 我学得这么快呢?难道是因为他们本来就简单?还是因为我太聪明了?”

    “为什么你不说是因为你师父教的好呢?“

    “因为这是事实啊~不用我说出来~”

    “咳咳,实际上是因为两个原因。一是你一直通过项目驱动来学习,先有需求,然后再去学习实现这个需求所要涉及到的技能。所以你知道你学的东西能用来干什么,自然就能学得快……”

    “那第二个原因是什么呢?”

    “第二个原因,我先问你一个问题,你会搭建 Redis 集群吗?会搭建 MongoDB 集群吗?知道什么叫做哨兵吗?你知道如何优化 MongoDB 的启动参数吗?”

    “这…………好像都不知道额…………”

    “因为你的角色是数据工程师,不是数据库工程师,所以数据库搭建、底层优化这些内容我都给你跳过了。”

    “这些听起来都很重要啊,师父你会教我吗?”

    “你想经常值夜班吗?想半夜 3 点被人打电话叫起来修数据库吗?认清自己的定位啊,数据库工程师的技能当然很重要,但你是要成为数据工程师的人,技能树应该点在合适的方向。”

    后记

    后来,P 酱成了别人的女朋友。

    幸好我还有左手和右手,于是我把我给 P 酱总结的文档编撰成了《左手 MongoDB,右手 Redis ——从入门到商业实战》这本书。本书现在已经在京东、亚马逊、淘宝上架。

    这本书的定位是 MongoDB 和 Redis 的应用,所以有意弱化了数据库的搭建、维护和底层优化。所以本书可能不适合数据库工程师。

    希望本书能够给那些一直想掌握 MongoDB、Redis,但是又不知道从何处下手的读者,提供一个学习的方向。

    福利时间

    感谢你读到了这一行,希望我这篇蹩脚的软文没有让你觉得讨厌。新书上架,回馈 V 友。我将会从所有留言的 V 友中选中 6 人,一人赠送一本《左手 MongoDB,右手 Redis ——从入门到商业实战》。

    按照惯例,选人的方式如下:

    1. 2019 年 2 月 26 日早晨 10 点,我会打开网易财经查询 2019 年 2 月 25 日的网易收盘价。
    2. 网易收盘价转成字符串分别加上『 P 』、『 y 』、『 t 』、『 h 』、『 o 』、『 n 』获得 6 个字符串。例如『 2,806.81P 』、『 2,806.81y 』等等
    3. 通过 Python 自带的 hashlib 中的 sha256 算法,计算这 6 个字符串的哈希值。
    4. 哈希值转换为十进制以后除以截至 2019 年 2 月 26 日 10:00 的总楼层数,获得 6 个余数
    5. 6 个余数对应的楼层数将会获得赠书。
    6. 如果同一个人中奖两次,第二次自动顺延给下一层楼。
    7. 顺丰包邮(港澳台、新疆西藏除外)

    抽奖用到的数据,如下图红框框住的这一列。

    Supplement 1  ·  Feb 23, 2019
    Supplement 2  ·  Feb 26, 2019

    @tianrandai @ouyangpiao @abellee000 @houzhimeng @imNull @chotow

    恭喜以上同学中奖,请使用 base64 编码自己的邮箱回复到本帖并 @我。我会使用 Y29udGFjdEBraW5nbmFtZS5pbmZvCg== 对应的邮箱给各位发送邮件确认领奖事宜。

    抽奖代码:

    238 replies  •  2019-03-12 09:39:50 +08:00
    1  2  3  
    ❮ ❯
    KgM4gLtF0shViDH3
    KgM4gLtF0shViDH3
    Feb 23, 2019 via iPhone❤️2
    1
    文案都这么 6
    LeonKennedy
    LeonKennedy
    Feb 23, 2019
    2
    路过看看,不知道说什么,火钳刘明好了
    goophy
    goophy
    Feb 23, 2019 via iPhone
    3
    支持一下
    davidqw
    davidqw
    Feb 23, 2019
    4
    直接看到后记...
    dreamwar
    dreamwar
    Feb 23, 2019
    5
    打开了 B 站
    dreamwar
    dreamwar
    Feb 23, 2019
    6
    然后我 TM 看了个什么???
    xcshuan
    xcshuan
    Feb 23, 2019 via Android
    7
    🌚这文案~书也是诙谐风?
    AlisterTT
    AlisterTT
    Feb 23, 2019 via iPhone
    8
    给大佬递茶
    justinsince1995
    justinsince1995
    Feb 23, 2019 via Android
    9
    觉得这个文档很神奇
    itskingname
    itskingname
    OP
    Feb 23, 2019
    10
    @dreamwar 去 B 站看视频的人都发现了彩蛋。
    chotow
    chotow
    Feb 23, 2019 via iPhone
    11
    👋 再见,美丽的徒弟~
    Sin
    Sin
    Feb 23, 2019
    12
    于是去搜了一下 av170001
    itskingname
    itskingname
    OP
    Feb 23, 2019
    13
    @xcshuan 你喜欢诙谐风吗?
    andyhuzhill
    andyhuzhill
    Feb 23, 2019
    14
    有点意思
    JayHawel
    JayHawel
    Feb 23, 2019 via Android
    15
    咦~真是可恶,论坛里混进来了奇怪的东西。
    reexamine
    reexamine
    Feb 23, 2019
    16
    手贱 av170001
    itskingname
    itskingname
    OP
    Feb 23, 2019
    17
    @JayHawel 什么东西~
    aaahhh123
    aaahhh123
    Feb 23, 2019
    18
    搜了一下 av170001 哈哈哈哈哈哈
    Captions
    Captions
    Feb 23, 2019 via Android❤️1
    19
    写的不错啊
    morize
    morize
    Feb 23, 2019
    20
    手贱点开了保加利亚妖王
    twor
    twor
    Feb 23, 2019
    21
    我本来说这是一个悲伤的故事了,搜了 id,才知道该悲伤的是我
    itskingname
    itskingname
    OP
    Feb 23, 2019
    22
    @twor 怎么楼歪了?
    densuc
    densuc
    Feb 23, 2019 via Android
    23
    好了好了 ,我参加了
    qiayue
    qiayue
    Feb 23, 2019
    24
    支持
    co3site
    co3site
    Feb 23, 2019 via Android
    25
    https://m.bilibili.com/video/av170001.html
    这文案,服气。在下就插入一楼,蹭蹭运气
    twor
    twor
    Feb 23, 2019
    26
    @itskingname 这次是盖楼的正确姿势,哈哈
    archean
    archean
    Feb 23, 2019
    27
    然后去 B 站看到了保加利亚妖王?
    leeUp
    leeUp
    Feb 23, 2019 via iPhone
    28
    师父,我也想要你写的文档
    lllvvv
    lllvvv
    Feb 23, 2019 via Android
    29
    支持
    XiaoXiaoNiWa
    XiaoXiaoNiWa
    Feb 23, 2019
    30
    支持
    ThirdFlame
    ThirdFlame
    Feb 23, 2019
    31
    然后 我打开了 B 站
    itskingname
    itskingname
    OP
    Feb 23, 2019
    32
    @leeUp 都在这本书里面了。
    exip
    exip
    Feb 23, 2019 via Android
    33
    写的好
    syhilyhw
    syhilyhw
    Feb 23, 2019
    34
    路过 32 次
    dyxang
    dyxang
    Feb 23, 2019
    35
    毛公仔那张图片有问题……过于真实不宜展示😂
    dengshen
    dengshen
    Feb 23, 2019 via iPhone
    36
    这种带段子的广告赞一个
    ByteRan
    ByteRan
    Feb 23, 2019❤️1
    37
    太 6 了,忍不住看完了,写的非常棒
    itskingname
    itskingname
    OP
    Feb 23, 2019
    38
    @dyxang 毛公仔?
    BBrother
    BBrother
    Feb 23, 2019
    39
    真是神秘的抽奖算法啊
    pcteams
    pcteams
    Feb 23, 2019 via Android
    40
    广告也这么有创意。但还是读完了
    cccicl
    cccicl
    Feb 23, 2019
    41
    故事性广告,很有意思
    struggletoday
    struggletoday
    Feb 23, 2019
    42
    牛逼,还给 B 站导了一波流
    fuergaosi
    fuergaosi
    Feb 23, 2019
    43
    本来想发🍋
    直到我打开了 b 站
    dyxang
    dyxang
    Feb 23, 2019
    44
    @itskingname 一排猫公仔😂
    itskingname
    itskingname
    OP
    Feb 23, 2019
    45
    @dyxang P 酱送的礼物~
    cense
    cense
    Feb 23, 2019 via Android
    46
    分母
    Mmmmc
    Mmmmc
    Feb 23, 2019
    47
    不知不觉我就上当了。
    jadeity
    jadeity
    Feb 23, 2019
    48
    打开 B 站,觉得被骗了,不会买书了。
    BestMe
    BestMe
    Feb 23, 2019
    49
    六六六,老铁双击!
    heybuddy
    heybuddy
    Feb 23, 2019 via Android
    50
    手贱搜了下车牌号。。。
    SharkU
    SharkU
    Feb 23, 2019
    51
    不知道说什么,但是当我看到那个 av 号就意识到大事不妙了。
    hazard
    hazard
    Feb 23, 2019
    52
    降低中奖率
    123s
    123s
    Feb 23, 2019
    53
    抽我啊,哈哈
    JiZhiDeboy
    JiZhiDeboy
    Feb 23, 2019
    54
    此时路过一位靓仔~
    b3m0r3
    b3m0r3
    Feb 23, 2019
    55
    哈哈,当个分母
    cnkiller
    cnkiller
    Feb 23, 2019 via Android❤️1
    56
    故事不错哈
    itskingname
    itskingname
    OP
    Feb 23, 2019
    57
    @b3m0r3 也许是分子呢
    shell314
    shell314
    Feb 23, 2019 via Android
    58
    很棒的活动
    LingJinDu
    LingJinDu
    Feb 23, 2019
    59
    \(^o^)/~
    jamesisandy
    jamesisandy
    Feb 23, 2019 via Android
    60
    支持支持
    zzf2017
    zzf2017
    Feb 23, 2019❤️1
    61
    这文案玩的很花哨啊
    hotspotvm
    hotspotvm
    Feb 23, 2019
    62
    支持
    itskingname
    itskingname
    OP
    Feb 23, 2019
    63
    @zzf2017 感谢感谢~
    Crayon2022
    Crayon2022
    Feb 23, 2019 via Android❤️1
    64
    打算入手买!
    killeder
    killeder
    Feb 23, 2019 via Android❤️1
    65
    支持
    itskingname
    itskingname
    OP
    Feb 23, 2019
    66
    @Sivan2017 感谢感谢
    BBCCBB
    BBCCBB
    Feb 23, 2019
    67
    2 月 26 号早上 9 点 58,我打开小米官网抢 10 点开抢的手机。 =_+
    zer01
    zer01
    Feb 23, 2019
    68
    还是继续当个分母吧
    imNull
    imNull
    Feb 23, 2019
    69
    也是分母
    itskingname
    itskingname
    OP
    Feb 23, 2019
    70
    @BBCCBB 然后你两边都中奖了。
    wxd92
    wxd92
    Feb 23, 2019 via iPhone
    71
    抽奖方式很 6
    jianwei569
    jianwei569
    Feb 23, 2019
    72
    分母前来报道
    Dram001
    Dram001
    Feb 23, 2019 via Android
    73
    8 错哦,想搞社工
    liuxingbaoyu
    liuxingbaoyu
    Feb 23, 2019
    74
    看到标题就决定要顶一下了
    itskingname
    itskingname
    OP
    Feb 23, 2019
    75
    @wxd92 去年也搞了一次
    dabaitu
    dabaitu
    Feb 23, 2019 via Android
    76
    滋磁
    itskingname
    itskingname
    OP
    Feb 23, 2019
    77
    @liuxingbaoyu 那正文呢
    wxb2dyj
    wxb2dyj
    Feb 23, 2019 via iPhone
    78
    正好俩都在用
    itskingname
    itskingname
    OP
    Feb 23, 2019
    79
    @wxb2dyj 如此甚好
    houzhimeng
    houzhimeng
    Feb 23, 2019
    80
    留名
    itskingname
    itskingname
    OP
    Feb 23, 2019
    81
    @houzhimeng 火钳刘明。
    jinjianlu
    jinjianlu
    Feb 23, 2019
    82
    文案不错
    itskingname
    itskingname
    OP
    Feb 23, 2019
    83
    @jinjianlu 感谢
    hhh_king
    hhh_king
    Feb 23, 2019
    84
    留名吧,谁知道呢
    omph
    omph
    Feb 23, 2019
    85
    希望故事比技术出彩~
    dennisun
    dennisun
    Feb 23, 2019
    86
    厉害了感觉是文科生写的
    piokhj
    piokhj
    Feb 23, 2019
    87
    不错不错,刘明抽奖
    huaouo
    huaouo
    Feb 23, 2019 via Android
    88
    🤪av170001
    isnowify
    isnowify
    Feb 23, 2019
    89
    分母~
    zhou00
    zhou00
    Feb 23, 2019
    90
    分母
    pheyer
    pheyer
    Feb 23, 2019
    91
    不要太 6
    diyisoft
    diyisoft
    Feb 23, 2019 via iPhone
    92
    太好了,学习学习
    itskingname
    itskingname
    OP
    Feb 23, 2019
    93
    @omph 技术更出差。
    itskingname
    itskingname
    OP
    Feb 23, 2019
    94
    @dennisun 文科生跑了,是理科生写的。
    ruiruirui
    ruiruirui
    Feb 23, 2019 via Android
    95
    写的不错
    kawhi
    kawhi
    Feb 23, 2019
    96
    已买,当个分母
    qdpoboy
    qdpoboy
    Feb 23, 2019
    97
    真妹子呀? 66666
    ebony0319
    ebony0319
    Feb 23, 2019 via Android
    98
    av170001 这是神秘代码么?
    moonvstod
    moonvstod
    Feb 23, 2019 via iPhone❤️1
    99
    文案太溜了
    ebony0319
    ebony0319
    Feb 23, 2019 via Android
    100
    最左边两只猫的屁屁不正常。。。。
    1  2  3  
    ❮ ❯
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4992 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 164ms · UTC 08:57 · PVG 16:57 · LAX 00:57 · JFK 03:57
    ♥ Do have faith in what you're doing.