jedeft

大神们推荐个,适合垃圾佬跑大模型的机器配置

  •  
  •   jedeft · May 11, 2024 · 2582 views
    This topic created in 924 days ago, the information mentioned may be changed or developed.

    场景: 1 、跑开源的大模型,做自己的知识库 2 、偶尔自己做一点微调

    希望价格不要太高,几千块能搞定的那种,求推荐

    6 replies  •  2024-05-14 21:20:02 +08:00
    Brunuh2Ville2
    Brunuh2Ville2
    May 11, 2024 via Android
    1
    吃显存,16g 起步,最好 24g
    codehz
    codehz
    May 11, 2024
    2
    你这还不如直接租在线的,几千块够用好久了
    ShadowPower
    ShadowPower
    May 11, 2024
    3
    P40 改散热 x2
    lllabmaster
    lllabmaster
    May 13, 2024 via iPhone
    4
    阿里云 PAI 能免费用 3 个月
    jedeft
    jedeft
    OP
    May 13, 2024
    5
    @lllabmaster 求链接
    wencan
    wencan
    May 14, 2024
    6
    llama.cpp 加 量化,不要 gpu 也可以跑大模型
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   869 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 22:31 · PVG 06:31 · LAX 14:31 · JFK 17:31
    ♥ Do have faith in what you're doing.