• 请不要在回答技术问题时复制粘贴 AI 生成的内容
bobopu
V2EX  ›  程序员

有没有批量检测网址有效性的软件?

  •  
  •   bobopu · Sep 21, 2014 · 7258 views
    This topic created in 4433 days ago, the information mentioned may be changed or developed.
    网上找了几个貌似都有点问题,说是多线程的,可执行一会就停止了,检测还不到100个网址就瘫痪了。。有没有好点的软件呢?
    15 replies  •  2017-12-13 14:51:39 +08:00
    kisshere
    kisshere
    Sep 21, 2014
    1
    自己用phantomJs去写个小脚本吧
    binux
    binux
    Sep 21, 2014
    2
    写几行shell就搞定了吧
    bobopu
    bobopu
    OP
    Sep 21, 2014
    3
    @kisshere
    @binux 不会。。
    em70
    em70
    Sep 21, 2014
    4
    写个小脚本,向每个地址发送head命令,返回状态码200就说明有效,要不了几行代码,但这种方法不支持禁head或者有专门404页面的服务器.
    bobopu
    bobopu
    OP
    Sep 21, 2014
    5
    @em70 如果这个网站首页没法访问,但二级页面可以访问,这该如何检测他是否有效啊?
    em70
    em70
    Sep 21, 2014❤️1
    6
    @bobopu 能访问就能检测,超链接嘛,与其所在位置无关

    找你找一个python的head命令检测函数 http://www.tuicool.com/articles/YruQZb
    自己写个循环或者上个多线程就行了
    bobopu
    bobopu
    OP
    Sep 21, 2014❤️1
    7
    @em70 如果Ping都ping不通的情况下,该网站应该返回哪个错误代码呢?
    em70
    em70
    Sep 21, 2014
    8
    @bobopu 400,403,407,500,502都有可能,其实你不用关心这个,head命令发送返回200状态码就说明有效,其他都无效就行了.
    bobopu
    bobopu
    OP
    Sep 21, 2014 via Android
    9
    @em70 刚才又找了个软件,可以返回状态码,但是跑了一会也是停止响应了。。这类软件怎么都这么不稳定。
    em70
    em70
    Sep 21, 2014
    10
    @bobopu 多线程大量访问未知的网络会出现很多异常,又不是成熟的商业软件,不可能做得多完善,自己写脚本是正道,有什么问题自己可以解决.
    jacker
    jacker
    Sep 21, 2014❤️1
    11
    xenu;Screaming Frog SEO Spider前者免费,后者有破解版
    renzhn
    renzhn
    Sep 21, 2014❤️1
    12
    火狐有个Bookmarks Checker,前几天清理书签时用过
    qping
    qping
    Sep 21, 2014❤️1
    13
    qping
    qping
    Sep 21, 2014
    14
    原来是网址不是域名 看错了 楼主别里我了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1006 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 43ms · UTC 19:03 · PVG 03:03 · LAX 11:03 · JFK 14:03
    ♥ Do have faith in what you're doing.