thMaster
V2EX  ›  OpenAI

尝试了 OpenAI 的的 API,但是每次回复都要等上很久,有什么办法优化吗

  •  
  •   thMaster · Mar 8, 2023 · 4215 views
    This topic created in 1343 days ago, the information mentioned may be changed or developed.

    完全按照教程写的,但是每次都要等上二三十秒才会回复,有时还会报错,是我漏掉了什么吗,还是说这是正常现象

    10 replies  •  2023-03-17 15:41:00 +08:00
    xiaoqi6pi112
    xiaoqi6pi112
    Mar 8, 2023
    1
    我最近也发现这个问题了,不知道怎么解决,用套壳的感觉也慢
    xiaoz
    xiaoz
    Mar 8, 2023 via Android
    2
    刚出来两天挺快的,最近明显感觉到变慢了,还偶尔报错。
    Lentin
    Lentin
    Mar 8, 2023
    3
    充钱
    rossroma
    rossroma
    Mar 8, 2023
    4
    从前两天开始明显变慢了,前几天都是秒回的
    NiceFSH
    NiceFSH
    Mar 9, 2023
    5
    NiceFSH
    NiceFSH
    Mar 9, 2023
    6
    thMaster
    thMaster
    OP
    Mar 10, 2023
    7
    解决了,使用流式传输就可以了,跟官方的 ChatGPT 一样,一个 token 一个 token 地显示

    ```Python
    resp = ai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    stream=True,
    messages=messages
    )
    ```
    zhanlang
    zhanlang
    Mar 10, 2023
    8
    vx 搜索 "一起玩 ai", 直接体验 chatgpt plus
    fengliu222
    fengliu222
    Mar 16, 2023
    9
    @thMaster 好像这几天流式传输也慢了很多。
    Marko
    Marko
    Mar 17, 2023
    10
    有,用我们的小程序就不卡了:革新者
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1788 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 15:51 · PVG 23:51 · LAX 07:51 · JFK 10:51
    ♥ Do have faith in what you're doing.