crocoBaby

能用的免费白嫖的 ai llm 越来越少

  •  
  •   crocoBaby · 12h 44m ago · 596 views
    模型很多,但基本都不实用,openCode 已阵亡,openRouter 已阵亡,小红书 dots 已阵亡,ollma 已阵亡,顶多明年就要进入充钱 ai 时代
    6 replies
    happybabys
        1
    happybabys  
       3h 30m ago
    用点好的开个 200 美金的
    crocoBaby
        2
    crocoBaby  
    OP
       3h 29m ago via iPhone
    @happybabys 习惯了白嫖,突然上 200 刀,顶不住
    crocoBaby
        4
    crocoBaby  
    OP
       2h 9m ago via iPhone
    @SmiteChow 这些渠道都是试过了,可用性很低
    SmiteChow
        5
    SmiteChow  
       1h 44m ago
    @crocoBaby litellm 作为网关主要功能就是保证可用性(轮询策略,fallback 策略,主动 rp/tp 管理)的,我一般是发现 agent 长时间卡在重试就去网关检测各个模型的健康,然后用脚本批量把 rate limite 的模型删了,一天用下来删到最后就是 workbuddy 打底了😀

    免费就是需要多费点功夫,没办法。通过合理的抽象,这点功夫并没给我带来额外的困扰。
    crocoBaby
        6
    crocoBaby  
    OP
       1h 31m ago
    @SmiteChow 我指的可用性是 llm 的实用性,不是指服务的可用性
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3446 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 04:49 · PVG 12:49 · LAX 21:49 · JFK 00:49
    ♥ Do have faith in what you're doing.