okwork
V2EX  ›  问与答

搜索引擎超过 10 页以后的数据,有必要索引吗?

  •  
  •   okwork · Jul 21, 2019 via Android · 5300 views
    This topic created in 2664 days ago, the information mentioned may be changed or developed.
    1 很少有用户翻到 10 页以后
    2 数据准确性几乎没有可参考价值
    3 广告位也卖不出去

    只保留 10 页以内的数据,远比保存几百、几千页数据存储和索引的效率都高很多。10 页以后的数据价值可能只有 10 页内的 1%都不到吧,有必要索引吗?
    36 replies  •  2019-07-22 08:53:32 +08:00
    opengps
    opengps
    Jul 21, 2019 via Android❤️1
    1
    必要性还是有的,很多行业资料少的可怜,需要翻遍所有结果,更换各种关键字。
    搜索引擎的收录量也是用户选择的参考
    hoyixi
    hoyixi
    Jul 21, 2019
    2
    全国 10 亿人,只准 1000w 人上学,标准那啥定, 你愿意吗?
    nethard
    nethard
    Jul 21, 2019 via iPhone
    3
    用户搜索的时候又不是只输入一个关键字,多个关键字用空格分开的时候,即使单个关键字索引很靠后的站点也能排在前面。
    wangxiaoaer
    wangxiaoaer
    Jul 21, 2019 via Android❤️15
    4
    大哥,你是来搞笑的吗?

    搜索引擎建索引的时候怎么知道某条记录的页数?

    所谓的页数只有在给定关键字的时候才有意义啊
    delectate
    delectate
    Jul 21, 2019
    5
    对于百度来说,第一页也没有任何参考价值哦。这边建议您用 bing 或者 google 呢。
    okwork
    okwork
    OP
    Jul 21, 2019 via Android
    6
    @wangxiaoaer 建立索引是反向的,呈现结果当然能按权重控制输出页数。
    zhidian
    zhidian
    Jul 21, 2019 via Android
    7
    我啥都不懂,但似乎应该是索引了它才被放到第十页的
    binux
    binux
    Jul 21, 2019❤️1
    8
    @okwork 权重是和关键词相关的,不知道关键词,你怎么能知道权重的?
    lylsh1993
    lylsh1993
    Jul 21, 2019 via iPhone
    9
    对特定网站搜索可能会翻很多页
    okwork
    okwork
    OP
    Jul 21, 2019 via Android
    10
    @binux Pagerank,超链分析,域名 URL 权重,内容查重,文本分析等,这些都可以判断权重。
    binux
    binux
    Jul 21, 2019 via Android❤️1
    11
    @okwork #10 但是展示的时候权重最大的是相关性啊!!!
    okwork
    okwork
    OP
    Jul 21, 2019 via Android
    12
    @binux 李鬼可以把 SEO 相关性做到最高。
    binux
    binux
    Jul 21, 2019
    13
    @okwork 那和你‘搜索引擎超过 10 页以后的数据’有什么关系吗?
    wangxiaoaer
    wangxiaoaer
    Jul 21, 2019❤️3
    14
    @okwork #6 建立索引是反向的,呈现结果当然能按权重控制输出页数。


    ------------------

    现在的搜索结果本身就是按照权重排序输出的,但这个权重是动态的,你所谓的“ Pagerank,超链分析,域名 URL 权重,内容查重,文本分析”这些是相对静态的。

    10 页以后可以不展示,但这是搜索阶段的控制,索引建立跟这个是两个独立的阶段。

    举个例子,搜索关键词 A 的时候某个 11 页的内容,你认为不应该建立索引,但是搜索关键词 B 的时候,这条内容本应该出现在 10 页以内,结果因为没索引所以搜索不到,你觉得合理吗?

    -----------------

    另外看了你的回复,建议你提高些逻辑思维能力。
    okwork
    okwork
    OP
    Jul 21, 2019 via Android
    15
    @wangxiaoaer 搜索引擎是个复杂的工程,意见相左没关系,就事论事的交流。


    教别人做人之前,请先秀一下你的智商。
    wangxiaoaer
    wangxiaoaer
    Jul 21, 2019 via Android
    16
    @okwork 我没教你做人,我只是让你自己把逻辑练一练。

    你自己看看 10 11 12 楼的回复,心疼 binux
    iyaozhen
    iyaozhen
    Jul 21, 2019 via Android
    17
    @wangxiaoaer 心疼

    我就问楼主,一个网页 1,在 a 关键词拍第一页,在 b 关键词拍第十一页,你怎么判断?遍历所有关键词?
    summerwar
    summerwar
    Jul 21, 2019
    18
    你不能因为吃到第十个馒头饱了,就说前面的九个都白吃了。你的这个问题跟这个道理差不多
    vindurriel
    vindurriel
    Jul 21, 2019 via iPhone❤️1
    19
    您的建议在一种情况下是可行的 那就是关键词可穷举 不过这样的系统一般不叫搜索引擎 叫排行榜 data cube 等等
    LongLights
    LongLights
    Jul 21, 2019 via Android❤️1
    20
    数据先被索引才被排序的。。。你从排序结果推索引与否,那你做的东西就不是现在说的搜索引擎了,是目录搜索
    LongLights
    LongLights
    Jul 21, 2019 via Android
    21
    @wangxiaoaer 顺便心疼老哥
    trcnkq
    trcnkq
    Jul 21, 2019❤️1
    22
    喜欢看这种抬杠抬一半自己想明白了却找不到台阶下的
    misaka19000
    misaka19000
    Jul 21, 2019 via Android
    23
    楼上干嘛呢都,索引的时候只有权重信息,搜索的时候才有页数的概念
    rexyan
    rexyan
    Jul 21, 2019
    24
    一般不用 from,size 进行分页吧,只是默认结果是 10 页而已。多用 score 查询。还有就是多用 filter 之类的带缓存的过滤器。
    jfdnet
    jfdnet
    Jul 21, 2019
    25
    搜索自然会索引所有的资料。分页只是页面的一种组织形式,你也可以滚动啊。
    mumbler
    mumbler
    Jul 21, 2019
    26
    索引肯定要全部,否则怎么知道哪些结果该排前面,但只显示前多少页,减少反向索引缓存数据量
    goodan
    goodan
    Jul 21, 2019 via Android
    27
    @trcnkq 描述精准哈哈哈
    loading
    loading
    Jul 21, 2019 via Android
    28
    请各位点“忽略主题”
    akira
    akira
    Jul 21, 2019
    29
    如果互联网是禁止不变的,永远没有新增内容,没有变化
    huyi23
    huyi23
    Jul 21, 2019
    30
    lz 别跟一群键盘侠 bb
    阿里云的 open search 就不支持 5000 以外的数据
    xxm459259
    xxm459259
    Jul 21, 2019
    31
    心疼两位,lz 真的应该好好锻炼一下逻辑。。。
    Milomide
    Milomide
    Jul 21, 2019
    32
    可以有但没必要。。
    dezhou
    dezhou
    Jul 21, 2019 via Android
    33
    前提是是否有人看第十一页,有就会缓存
    FrankFang128
    FrankFang128
    Jul 21, 2019
    34
    显然,对于 Google 来说,显示后面页数并没有什么成本,因为你只有遍历所有页面之后,才能知道前十页的结果是什么。而且前十页的结果也是动态变化的。所以 Google 总归是要存更多结果的。
    encro
    encro
    Jul 22, 2019
    35
    搜索引擎大概分为几个部分:
    蜘蛛:爬取内容
    仓库:存储原始数据(磁盘)
    索引:将数据以特定的结构保存进行存储,以便于检索(内存)
    检索:根据各项权重对数据进行取出和排序


    你问的是索引,就是将文章按照关键词保存在内存,当然是除了一些辅助词之外,其他的词都有建立索引的。
    如果你问检索,也基本是一样的,只有检索完所有索引和附加字段,才知道哪些是关联性最高的,可以排在前面。
    petelin
    petelin
    Jul 22, 2019 via iPhone
    36
    索引自然需要 展示 10 页是代码上选择问题 你还可以每天索引一遍全部的 然后想个办法每个关键词都取前 10 页的数量 剩下的 document 都删掉

    这个成本也不比全量保存好
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5212 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 88ms · UTC 01:22 · PVG 09:22 · LAX 17:22 · JFK 20:22
    ♥ Do have faith in what you're doing.