推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
linhanqiu
V2EX  ›  Python

做爬虫做久了感觉都要学学安全方面的东西了,比如接口破签, app 脱壳,唉。。。。。

  •  
  •   linhanqiu · Jun 23, 2018 · 8632 views
    This topic created in 3054 days ago, the information mentioned may be changed or developed.

    大家一起来说说,做爬虫以后的方向

    47 replies  •  2018-06-30 20:56:08 +08:00
    Phant0m
    Phant0m
    Jun 23, 2018❤️1
    1
    爬虫犯法。。。
    Immortal
    Immortal
    Jun 23, 2018
    2
    怎么还有人在说爬虫犯法..
    qsnow6
    qsnow6
    Jun 23, 2018
    3
    爬虫往高了走都是逆向
    H0TSp1RnG
    H0TSp1RnG
    Jun 23, 2018 via Android
    4
    除了这些 一共还要学哪些安全的东西
    Mascdo
    Mascdo
    Jun 23, 2018
    5
    题主做爬虫多久了啊
    silencefent
    silencefent
    Jun 23, 2018
    6
    一年零六个月警告
    crystone
    crystone
    Jun 23, 2018
    7
    往后走都是黑客技术啊
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    8
    @Phant0m 爬虫不犯法啊,只是把看得到的数据批量弄来罢了
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    9
    @qsnow6 对,以后估计都得是这样
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    10
    @Mascdo 做了一年多,做了很多反反爬的工作,也包括爬虫架构、数据处理等等,感觉现在需要在深层次提升一下自己了
    est
    est
    Jun 23, 2018
    11
    我见过牛逼的爬虫都是直接 GUI 群控。。。。根本不需要逆向。
    qiayue
    qiayue
    Jun 23, 2018
    12
    你看得见的数据,作者不一定就想给你
    SingeeKing
    SingeeKing
    Jun 23, 2018
    13
    @est #11 效率低啊
    est
    est
    Jun 23, 2018
    14
    @SingeeKing 写爬虫不到处都是 sleep 生怕别人给你封了。。。
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    15
    @qiayue 对啊,所以说要研究里面特定的东西,既然看得到,肯定会有方法拿到的,这是做爬虫的人生信条把。
    jobtesting
    jobtesting
    Jun 23, 2018 via iPhone
    16
    反爬虫
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    17
    @est gui 群控的话不就是跟 web 端 chrome headless 打开一个网页一样耗资源耗时间
    est
    est
    Jun 23, 2018
    18
    @linhanqiu 但是没办法啊。。。主要是别人改个协议,就要跟进。好麻烦。。
    zgwjustice
    zgwjustice
    Jun 23, 2018 via iPhone
    19
    @linhanqiu 看头条前 cto 因为爬虫被判刑了吗 就只是爬了头条的视频
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    20
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    21
    @est 所以就得具体情况具体分析啦,看看业务需求
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018
    22
    @est 也是,代理 ip 资源不够的话间隔时间都比 gui 爬取时间长多了
    zgwjustice
    zgwjustice
    Jun 23, 2018 via iPhone
    23
    @linhanqiu 我记得罪名就是 UA 及 IP 绕过发爬机制 危害计算机系统 还赔了几万的技术服务费
    zgwjustice
    zgwjustice
    Jun 23, 2018 via iPhone
    24
    @linhanqiu 伪造 UA 及 IP 绕过反爬机制
    linhanqiu
    linhanqiu
    OP
    Jun 23, 2018 via iPhone❤️1
    25
    @zgwjustice 这个罪名也是 666 的
    wulasite
    wulasite
    Jun 23, 2018 via Android
    26
    老铁啊,那你可知道学安全什么都要学啊。
    其实有什么需求就变成什么样的人,这不是常态吗(滑稽
    swulling
    swulling
    Jun 24, 2018 via iPhone
    27
    伪造 UA 都犯法,你这还要脱壳?

    怕不是想吃牢饭了
    winglight2016
    winglight2016
    Jun 24, 2018 via iPad
    28
    逆向用于商业目的就是违法的——包括破签、协议接口逆向等等,个人理解不一定准,不过如果是我,我会更低调一点
    tingyunsay
    tingyunsay
    Jun 24, 2018
    29
    我搞了一年多的爬虫,除了新出现的反爬方法,就是 app 里的逆向了,推荐个博客:尼古拉斯*赵四,逆向入门都是看的这位哥的~~
    tingyunsay
    tingyunsay
    Jun 24, 2018
    30
    卧槽,看了楼上几位的对话,现在感觉慌的一批啊.....
    tnt666666
    tnt666666
    Jun 24, 2018 via Android
    31
    不要争辩是否违法,因为法律说你违法,你就违法了。
    fiht
    fiht
    Jun 24, 2018
    32
    往反爬虫这个方向走,越走越死。
    alexnevsky
    alexnevsky
    Jun 24, 2018
    33
    自己研究下没事,要是用于商业用途,东搞西搞,对方告你就是违法了
    linhanqiu
    linhanqiu
    OP
    Jun 24, 2018 via iPhone
    34
    @tingyunsay 好的,哥们,多谢
    U87
    U87
    Jun 24, 2018
    35
    @linhanqiu 兄弟,能问个东西吗
    sola97
    sola97
    Jun 25, 2018
    36
    爬虫到头搞信息安全么
    erosripe
    erosripe
    Jun 25, 2018 via Android
    37
    @tingyunsay 求链接
    linhanqiu
    linhanqiu
    OP
    Jun 25, 2018
    39
    @sola97 也不一定,看个人兴趣,不过至少得接触一点把
    linhanqiu
    linhanqiu
    OP
    Jun 25, 2018
    40
    @U87 talk
    fengche361
    fengche361
    Jun 25, 2018
    41
    还是要小心一点,感觉数据要是用于商业用途,基本上就是游走在法律边缘
    nbboy
    nbboy
    Jun 25, 2018
    42
    不是逆向,是正向,逆向只是手段。产出程序才是正道。
    U87
    U87
    Jun 25, 2018
    43
    @linhanqiu 爬虫使用代理时,公司提供了快代理收费接口,我这边直接拿到接口返回的那些 addres 和 port,然后做了个简单的判断,就是遍历拿到的代理 ip 列表访问个 http 的网站,返回 200 的我就取,然后就去实现我的爬虫(response = requests.get(url=url, headers=random.choice(self.headers), proxies=random.choice(proxy_list), timeout=10)),随机获取验证过的 ip,然后再请求.但是这样好像不行.都是这种报错 HTTPConnectionPool,请问前辈是哪里的问题
    18835579411
    18835579411
    Jun 26, 2018
    44
    @linhanqiu 感谢
    rocketman13
    rocketman13
    Jun 26, 2018
    45
    js 加密参数一般怎么破
    supervipcard
    supervipcard
    Jun 27, 2018
    46
    爬虫做多了,不会点逆向跟深度学习,真心搞不动
    wushaojun321
    wushaojun321
    Jun 30, 2018 via iPhone
    47
    一样啊,兄弟,发请求很容易,难的是发的内容,最近在看加密与解密
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5176 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 74ms · UTC 01:19 · PVG 09:19 · LAX 17:19 · JFK 20:19
    ♥ Do have faith in what you're doing.