V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
calano
V2EX  ›  OpenAI

chatgpt API 速度问题

  •  
  •   calano · 2023-04-07 11:07:31 +08:00 · 4640 次点击
    这是一个创建于 386 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在站里搜了下大家的讨论都说挺快的,但是为什么我调用的时候就非常慢,通常要将近 20 秒

    开始以为是需要 stream 流,现在采用了只快了那么一点,总体依然很慢

    自己的服务器中转或者使用公共的中转代理都这个速度,想问问大家还有可能在哪里有问题?

    难道是现在免费账号送的额度限速了?

    15 条回复    2023-04-13 01:07:05 +08:00
    xenme
        1
    xenme  
       2023-04-07 11:08:43 +08:00 via iPhone
    大概率代码问题,之前用了一个 bot ,也是很慢,后来更新了一次后就飞快了。
    qiayue
        2
    qiayue  
       2023-04-07 11:20:00 +08:00
    只要开了 stream ,那么基本上第一个字,可以在一两秒内返回。
    可以试试我开源的这个 php 版本 https://github.com/qiayue/php-openai-gpt-stream-chat-api-webui
    可以看看下面测一个提问时间日志,第一条数据,会在后端接收到请求后立即返回,第二条数据来自于接口返回第一个字时。两个时间相差 1.5 秒左右。也就是提问后,1.5 秒,前端就可以开始显示第一个字了。
    popok
        3
    popok  
       2023-04-07 12:41:51 +08:00
    一开始我也觉得好慢,直到我的免费体验额度到期,然后自己充值了一些 api 金额,那个速度就起飞了。

    所以我感觉:免费的就是给你限速的
    calano
        4
    calano  
    OP
       2023-04-07 14:44:16 +08:00
    @xenme 换了一套代码感觉快了一些,但是还是比较慢,可能确实得加钱吧
    calano
        5
    calano  
    OP
       2023-04-07 14:45:06 +08:00
    @popok 我也感觉是,用了几种方法都不太满意,先等额度到期吧
    calano
        6
    calano  
    OP
       2023-04-07 18:34:41 +08:00
    @qiayue 你的 key 是付费版的吗,我在想是不是跟这个有关,我的还没到期,是免费额度
    winterx
        7
    winterx  
       2023-04-08 00:54:18 +08:00
    @popok 请问你是怎么充值的
    popok
        8
    popok  
       2023-04-08 01:18:32 +08:00 via Android   ❤️ 1
    @winterx depay 虚拟卡,开 plus 和绑定 api 扣费账户都没问题。期间遇到一次拒绝您的信用卡,换了一个美国 ip 就好了。个人认为,只要 ip 够纯净,就能成功。
    Alexo00000
        9
    Alexo00000  
       2023-04-10 01:55:01 +08:00
    之前 API 还是很快的 基本两三秒响应,这几天开始 API 访问慢的要死,基本都要十几二十秒,网页版倒是很快
    想尝试绑定 Depay 卡,一直提示卡片被拒绝,换了好几个不同国家的 IP 都不行
    不知道是卡的问题还是 IP 问题,之前这张卡和 IP 购买网页 plus 都没问题
    Alexo00000
        10
    Alexo00000  
       2023-04-10 02:36:21 +08:00
    更新:刚刚用阿里云美区 ECS 起了个 Windows 系统,直接远程桌面用浏览器完成了绑卡,看来还是 IP 问题
    绑完卡马上测试 API 调用,响应速度立马快到飞起
    同一个 API KEY ,绑卡前响应 20 秒起,绑卡后立马 3 秒内响应,差异太明显了
    Alexo00000
        11
    Alexo00000  
       2023-04-10 02:42:01 +08:00
    绑卡后,不光是 API 初始响应速度提升,stream 的返回速度也明显加快
    这么区别对待,OpenAI 吃相太难看
    calano
        12
    calano  
    OP
       2023-04-10 10:20:55 +08:00
    @Alexo00000 确实现在太慢了
    BeginMan
        13
    BeginMan  
       2023-04-12 13:00:16 +08:00
    确实比较慢,就最近两天发现很慢,之前都很快。
    xiangxihenli
        14
    xiangxihenli  
       2023-04-12 21:33:52 +08:00
    现在太慢了,调接口,先等 20 秒,20 秒之后才正常输出....太狗了
    seelight
        15
    seelight  
       2023-04-13 01:07:05 +08:00
    换了个号绑卡试了下, 立刻飞快了, 不用怀疑, 就是限制了免费试用的速度, 和时间地域无关, vercel 的服务可靠性还是值得信任的.
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2803 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 12:05 · PVG 20:05 · LAX 05:05 · JFK 08:05
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.