• 请不要在回答技术问题时复制粘贴 AI 生成的内容
pureGirl
V2EX  ›  程序员

pgvector 生成 embedding 好慢,是我用的方式有问题吗

  •  
  •   pureGirl · Sep 17, 2025 · 2497 views
    This topic created in 417 days ago, the information mentioned may be changed or developed.

    有没有能快速生成 embedding 的办法

    8 replies  •  2025-09-17 18:34:12 +08:00
    irrigate2554
    irrigate2554
    Sep 17, 2025
    1
    pgvector 是纯 cpu 没有 gpu 加速的吧,你可以部署其它的 embedding 模型,生成向量后存储到 pg ,pg 只做存储和查询就快了。
    w568w
    w568w
    Sep 17, 2025
    2
    > pgvector 生成 embedding 好慢

    pgvector 可以生成 embedding 吗?我理解它不是只负责储存、索引和检索吗,还管生成?
    rimworld
    rimworld
    Sep 17, 2025
    3
    硅基找个做 embedding 的模型,最好和你用的对话模型是配套的。同意 2 楼的,这不是 pg 的拓展插件来方便保存,和提供一些方法来检索的吗?
    pureGirl
    pureGirl
    OP
    Sep 17, 2025
    4
    @w568w 我用的这个方法生成的 from llama_index.vector_stores.postgres import PGVectorStore
    pureGirl
    pureGirl
    OP
    Sep 17, 2025
    5
    @irrigate2554 生成 embedding 的过程也太慢了,千万级数据 embedding 生成不出来检索快有啥用
    dreasky
    dreasky
    Sep 17, 2025
    6
    生成 embedding 速度慢不是 embedding 模型慢吗 跟 pg 有关系吗
    dzdh
    dzdh
    Sep 17, 2025
    7
    生成不是模型做的吗? pgvector 不是只管 select 和 insert 吗
    beginor
    beginor
    Sep 17, 2025
    8
    embedding 慢的话可以换个显卡加速的模型,关 pgvector 啥事? pgvector 只管存储和查询
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   511 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 20:49 · PVG 04:49 · LAX 12:49 · JFK 15:49
    ♥ Do have faith in what you're doing.