iiduce
V2EX  ›  问与答

Instapaper的网页内容文本自动抓取技术是什么原理,我看着好神奇。我试了好多网页,对于网页中对文本内容识别的都是惊人的准确。我问身边专门做数据采集的同事都不知道如何实现。

  •  
  •   iiduce · Apr 3, 2011 · 15950 views
    This topic created in 5692 days ago, the information mentioned may be changed or developed.
    19 replies  •  1970-01-01 08:00:00 +08:00
    xinzhi
    xinzhi
    Apr 3, 2011
    2
    各种Readability实现都是获取页面容器包含内容长度最大的部分。
    disinfeqt
    disinfeqt
    Apr 3, 2011❤️1
    3
    其实是 Marco 手动复制粘贴的。
    lianghai
    lianghai
    Apr 3, 2011❤️1
    4
    其实是 Marco 高薪吸引全球点击工跳槽。
    iiduce
    iiduce
    OP
    Apr 3, 2011
    5
    @disinfeqt @xinzhi
    谢谢两位,了解了不少知识。
    @disinfeqt @lianghai
    Marco是啥东东
    lianghai
    lianghai
    Apr 3, 2011
    6
    @iiduce Marco Arment 是 Instapaper 的开发者。
    xds2000
    xds2000
    Apr 3, 2011
    7
    贴点硬头货
    /*
    * Readability. An Arc90 Lab Experiment.
    * Website: http://lab.arc90.com/experiments/readability
    * Source: http://code.google.com/p/arc90labs-readability
    *
    * "Readability" is a trademark of Arc90 Inc and may not be used without explicit permission.
    *
    * Copyright (c) 2010 Arc90 Inc
    * Readability is licensed under the Apache License, Version 2.0.
    *
    * This version has been modified by Instapaper, LLC.
    * Uncompressed source of the modified version is available at:
    * http://www.instapaper.com/javascript/ipreadability-1.7.1.js
    **/

    // DEFLATE, base64 by Dan Kogai http://github.com/dankogai/

    还是有点意思的。
    claliu
    claliu
    Apr 13, 2011
    8
    http://www.keyvan.net/2010/08/php-readability/
    这里有Readability PHP移植 并公布了源代码


    Keyvan是 http://fivefilters.org/ 的作者
    mywaiting
    mywaiting
    Apr 13, 2011
    9
    Mark 一下,马上就要用到这个。。。
    sogood
    sogood
    Apr 14, 2011
    10
    哇,居然有开源代码,不错。
    不知道跟神经网络的联系在哪里,回头看下源码。
    感谢各位的分享。
    xatest
    xatest
    Oct 16, 2011
    11
    Instapaper对于豆瓣条目的评论识别正文经常出错~
    ywjno
    ywjno
    Oct 16, 2011
    12
    也有可能是通过正则来取得正文的,请看这个项目,http://github.com/plukevdh/readability
    XnEnokq9vkvVq4
    XnEnokq9vkvVq4
    Oct 16, 2011
    13
    根据我的使用经验,Readability比Instapaper Text的准确率高一些。后者可能是一种秘而不宣的技术。。
    Numbcoder
    Numbcoder
    Oct 16, 2011
    14
    以前还以为是通过RSS识别的。
    xohen
    xohen
    Oct 16, 2011
    15
    一直用read it later http://readitlaterlist.com/ 浏览器插件抓取,android上通过app阅读。
    感觉Instapaper在V2EX受众更多一些?
    xohen
    xohen
    Oct 16, 2011
    16
    在我记忆中,readitlaterlist不能抓取的页面包括豆瓣日记和新浪博客的文章
    acdea4effdbb420d
    acdea4effdbb420d
    Oct 16, 2011
    17
    @xohen 我之前也一直用的readitlater,instapaper出来之后我发现它能导出到epub,这对eink用户来说是福音,就换到instapaper了
    ywjno
    ywjno
    Oct 17, 2011
    19
    抱歉之前写的那个是错的项目,这个才是我说的通过正则查询正文的东东,

    https://github.com/scyclops/Readable-Feeds/blob/master/readability/hn.py
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5242 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 47ms · UTC 03:19 · PVG 11:19 · LAX 19:19 · JFK 22:19
    ♥ Do have faith in what you're doing.