推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
wisefree
V2EX  ›  Python

4 月份开始写的爬虫文章,今天做一个总结

  •  
  •   wisefree · Sep 15, 2017 · 5770 views
    This topic created in 3341 days ago, the information mentioned may be changed or developed.

    2017 年 4 月份开始写爬虫系列文章,不知不觉到了 9 月份,时间过的真快,写毕业论文,毕业了,找工作,然后辞职,然后接着奋斗

    4 月份开始写,一直断断续续,今天给爬虫文章收一个尾。

    文章放到了的个人网站上:www.zhouww.com

    Python_爬虫总结

    补充了如下内容

    • 多进程
    • 代理池
    • json 处理
    • 数据存储
    • 手机抓包

    有些文章需要些基础,有些文章只讲讲心得。欢迎大家指正,欢迎投稿。

    28 replies  •  2017-09-17 08:45:48 +08:00
    cxd44
    cxd44
    Sep 15, 2017 via Android
    1
    谢谢,可以写一些对没啥基础的人的教程吗?
    chrisliu1314
    chrisliu1314
    Sep 15, 2017 via Android❤️1
    2
    写的很系统。可以加一些爬虫框架,比如,pyspider
    a87150
    a87150
    Sep 15, 2017
    3
    写爬虫的时候总觉得有点不好意思,感觉给别人添麻烦了
    a1044634486
    a1044634486
    Sep 15, 2017
    4
    为啥你的站打开好慢,我的天。
    ila
    ila
    Sep 15, 2017 via Android
    5
    @chrisliu1314 能否讲讲他和 scrapy 的差异吗
    chrisliu1314
    chrisliu1314
    Sep 15, 2017 via Android
    6
    @ila 没有过 scrapy。。。
    chrisliu1314
    chrisliu1314
    Sep 15, 2017 via Android
    7
    @ila 没有用过
    wisefree
    wisefree
    OP
    Sep 15, 2017
    8
    @chrisliu1314 一直没用过框架,有机会去接触下
    wisefree
    wisefree
    OP
    Sep 15, 2017
    9
    @a1044634486 不会吧,国内 ip 我分流到了 coding 的 pages 上,国外的是 github 的 pages 上
    wisefree
    wisefree
    OP
    Sep 15, 2017
    10
    @cxd44 我的文章需要的基础会在前面说明的,如果加入基础,文章会很长
    wisefree
    wisefree
    OP
    Sep 15, 2017
    11
    @a87150 还好吧,>_<
    26888
    26888
    Sep 15, 2017 via Android
    12
    遇到中文网页不是用 utf8 编码(比如是 gb2312)这样的页面,存到数据库里(数据库是 utf8),一般怎么处理?什么时候转码啊?
    wisefree
    wisefree
    OP
    Sep 16, 2017
    15
    @26888 页面——》 Python ——》数据库,python 可以处理的。用 Python 把页面的内容解析出来,存入数据库。
    taochunfan
    taochunfan
    Sep 16, 2017❤️1
    16
    老哥您的网站打不开啊!!
    wisefree
    wisefree
    OP
    Sep 16, 2017
    17
    @a1044634486 好吧,感谢反馈。说实话,coding,有时候不稳定,我也会遇到,>_>
    wisefree
    wisefree
    OP
    Sep 16, 2017
    18
    @taochunfan coding 的 pages 和 github 的 pages,应该没有问题啊,我刚刚又试了一遍。(虽然说 coding 有时候不稳定)
    taochunfan
    taochunfan
    Sep 16, 2017❤️1
    19
    @wisefree 现在又可以了
    wisefree
    wisefree
    OP
    Sep 16, 2017
    20
    @taochunfan 真心尴尬,具体原因我也不太清楚,抱歉哈
    wisefree
    wisefree
    OP
    Sep 16, 2017
    21
    博客使用的是 coding.net 和 github.com 的 pages 功能
    工具:hexo + next 主题
    域名是万网,做了一下 ip 分流,国内 ip 访问 coding,国外 ip 访问 github
    至于打不开的话,我也找不到好的方法处理,建议多试几次,>_>。(抱拳)
    yuluofanchen
    yuluofanchen
    Sep 16, 2017❤️1
    22
    用代理打开了
    wisefree
    wisefree
    OP
    Sep 16, 2017
    23
    @yuluofanchen 好尴尬哈,至今没有排查出问题。抱歉哈
    shingle
    shingle
    Sep 16, 2017❤️1
    24
    你的网站厉害了, 走代理才能打开
    wisefree
    wisefree
    OP
    Sep 16, 2017
    25
    @shingle 抱拳,pages 功能可能不稳定
    yuluofanchen
    yuluofanchen
    Sep 16, 2017❤️1
    26
    现在不走代理也可以打开了!
    scriptB0y
    scriptB0y
    Sep 17, 2017❤️1
    27
    同行,顺路也推一下自己的爬虫入门文章

    https://www.kawabangga.com/posts/2277
    wisefree
    wisefree
    OP
    Sep 17, 2017
    28
    @scriptB0y 厉害!谢啦
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   753 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 17:33 · PVG 01:33 · LAX 09:33 · JFK 12:33
    ♥ Do have faith in what you're doing.