V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
dong706
V2EX  ›  程序员

弱弱地问下那些对接了 chatGPT 的各种服务是怎么拿到 chatGPT 的回答的?

  •  
  •   dong706 · 2023-02-14 10:11:19 +08:00 · 8019 次点击
    这是一个创建于 632 天前的主题,其中的信息可能已经有所发展或是发生改变。

    当前 chatGPT 是没有提供 API 的,在网页上使用的话只能等着它一个个字打出来,随便一个四五十个字的回答都要十几秒,更长的回答就不说了。

    那...那些对接了 chatgpt 的各种服务是怎么快速拿到 chatgpt 的回答的?

    恕我孤陋寡闻,这里是不是有些不为人知的技巧~~~

    37 条回复    2023-03-02 22:52:45 +08:00
    fredli
        1
    fredli  
       2023-02-14 10:13:10 +08:00
    plus 版特别?
    fengci
        2
    fengci  
       2023-02-14 10:13:23 +08:00
    https://openai.com/api/ 有 API 你居然都不舍得搜索一下,已使用测试上线
    paopjian
        3
    paopjian  
       2023-02-14 10:14:12 +08:00   ❤️ 2
    有没有可能那不是 chatgpt,而是 GPT-3?
    hehanchenhhc
        4
    hehanchenhhc  
       2023-02-14 10:15:06 +08:00   ❤️ 2
    @fengci 这是 GPT3 的 API ,chatGPT 已经不用这个版本的模型了
    hehanchenhhc
        5
    hehanchenhhc  
       2023-02-14 10:16:48 +08:00
    除了微软 bing ,openAI 官方似乎没有对外开放 chatGPT 本身的调用,公众号或者第三方用的都是 2 楼说的 openAI GPT3 模型
    cwang22
        6
    cwang22  
       2023-02-14 10:18:48 +08:00
    paouke
        7
    paouke  
       2023-02-14 10:18:58 +08:00
    @hehanchenhhc 模型名称传 text-davinci-002-render ,我看页面版本是传的这个
    dong706
        8
    dong706  
    OP
       2023-02-14 10:28:10 +08:00
    @cwang22 @fengci 这个我好几个月就接入了,但是那不是 chatgpt
    billzhuang
        9
    billzhuang  
       2023-02-14 11:07:32 +08:00
    wang794822947
        10
    wang794822947  
       2023-02-14 11:09:10 +08:00
    都是接入的老版本的 api 根本不是真正的 chatGPT 蹭热度骗骗小白
    herozzm
        11
    herozzm  
       2023-02-14 11:10:38 +08:00
    用的是公开的 3.0 版本,现在官方的是用了巨量资金后训练的 3.5 版本,看着只差 0.5 ,其实区别很大,你没发现这些用 3.0 国内的服务傻了一大截
    mr0joker
        12
    mr0joker  
       2023-02-14 11:23:57 +08:00
    目前来说,官方提供的 ChatGPT API 有申请渠道,具体可看这个: https://community.openai.com/t/openai-chatgpt-api-waitlist/39247 你说的这些服务有可能有些是等到了这个资格

    还有一种使用 ChatGPT 模型的方法是有人发现了 ChatGPT 网页版使用的模型,然后可以通过 OpenAI 官方的 api 去调用且不花费 token ,不过这种方法不稳定,官方发现后会关闭掉这种通道

    最常用的应该就是使用 OpenAI 官方提供的 API 了,模型设置为达芬奇系列,整体效果也还是可以的。

    其实我也有这种疑惑,怎么那些服务取的标题都是 ChatGPT 。。。
    mr0joker
        13
    mr0joker  
       2023-02-14 11:28:06 +08:00
    #12 补充:使用泄露出来的 chatGPT 模型可以看下#9 这位老哥发的项目的 commits: https://github.com/acheong08/ChatGPT

    按照官方文档的说法,text-davinci-003 也是属于 3.5 版本,具体可看下这个: https://platform.openai.com/docs/model-index-for-researchers
    wolfmei
        14
    wolfmei  
       2023-02-14 11:28:26 +08:00
    GPT-3 和 ChatGPT 的区别是:

    GPT-3 是一个自回归的语言模型,使用深度学习生成类似人类的文本。它是 OpenAI 开发的 GPT-n 系列的第三代语言预测模型,也是 GPT-2 的继承者。GPT-3 可以用于各种自然语言任务,如文本摘要、问答、文本分类等。
    ChatGPT 是一个人工智能聊天机器人程序,也是由 OpenAI 开发的,于 2022 年 11 月推出该程序使用基于 GPT-3.5 架构的大型语言模型,并通过强化学习进行训练。ChatGPT 不仅可以通过人类自然对话方式进行交互,还可以用于相对复杂的语言任务,包括生成诗歌、代码、歌词等。
    GPT-3 和 ChatGPT 的主要区别在于,ChatGPT 使用了更先进的 GPT-3.5 模型,以及人类反馈信号学习的强化学习方法,使其能够更好地理解用户的意图和情感,生成更有趣和有创造力的回复。

    这是 bing 的回答。
    Mandelo
        15
    Mandelo  
       2023-02-14 11:31:19 +08:00 via iPhone
    gpt3 速度还是挺快的,就是有点蠢
    mr0joker
        16
    mr0joker  
       2023-02-14 11:36:07 +08:00
    #13 订正:text-davinci-003 属于 GPT-3.0
    snimstice
        17
    snimstice  
       2023-02-14 11:37:19 +08:00
    @hehanchenhhc gpt3 的生成结果是一次性直接返回,chatGPT 会一个字一个字的往外边蹦。我观察到一些小程序也是一个字一个字的往外蹦。有没有可能是有什么方法可以黑 chatGPT 的接口?
    ByteCat
        18
    ByteCat  
       2023-02-14 11:37:31 +08:00
    之前有泄露的 ChatGPT 模型,可以用 GPT-3 API 去请求,带着模型名字就行,前两天封掉了。
    还有就是用 text-davinci-003 的,一般都用这个,后面 fallback 了很多 API key 去请求。
    还有一种是直接爬的 ChatGPT ,缺点是有频率限制,一般人少的话可能会用这种。
    cat9life
        19
    cat9life  
       2023-02-14 11:37:46 +08:00
    国内的 chatGPT 应该几乎都是 GPT-3
    luomao
        20
    luomao  
       2023-02-14 11:39:28 +08:00
    给你有一个思路,可以使用无头浏览器来实现
    LaurelHarmon
        21
    LaurelHarmon  
       2023-02-14 11:44:52 +08:00 via Android
    事实是这样的
    达芬奇 003 和 ChatGPT 都是在达芬奇 002 的基础上通过人工排序对话结果进行微调优化的,前者更注重基于上下文的学习(in-context learning),后者更注重多轮。
    所以达芬奇 003 和 chatGPT 各有所长,没有继承关系,显然多轮在实际对话中更加有用,效果也更惊艳,所以,chat GPT 被放出来 demo 了 。
    虽然效果提升了,但是这两个相对于达芬奇 002 也施加了更多规则和道德约束。
    maotao456
        22
    maotao456  
       2023-02-14 11:52:42 +08:00 via Android
    昨天我在一个群里和一群沙雕吵起来了,他说他那个是 chatgpt 的 api ,我说你这个就只是达芬奇 003 ,不要装了。 然后开发者很生气,可能是我在拆穿他的引流计划吧
    LaurelHarmon
        23
    LaurelHarmon  
       2023-02-14 11:53:02 +08:00 via Android   ❤️ 2
    乱七八糟的,我来试着总结一下

    GPT3=达芬奇,纯文本

    CodeX=代码达芬奇 001 (就是 copilot ),用 github 代码微调

    InstructGPT =文本达芬奇 001 ,加自然语言处理任务精调

    以下都是 GPT3.5 系列
    代码达芬奇 002 ,继续用代码微调
    文本达芬奇 002 (基于代码达芬奇 002 ),人工问答
    文本达芬奇 003 (基于文本达芬奇 002 ),人工排序

    以下单独一个系列
    ChatGPT (基于文本达芬奇 002 ),人工排序
    LaurelHarmon
        24
    LaurelHarmon  
       2023-02-14 11:54:49 +08:00 via Android
    初代 GPT3 在大约 3 年前就出现了,傻也是正常的
    swulling
        25
    swulling  
       2023-02-14 12:03:14 +08:00 via iPhone
    三种方法:

    用泄漏的模型名
    用 gpt3 伪装成 chatgpt
    用无头浏览器交互

    多数是 2 ,因为 3 太慢且不稳定,1 经常被封。
    wdwwtzy
        26
    wdwwtzy  
       2023-02-14 12:12:48 +08:00
    gpt3 和 chatgpt 的差距有点大
    dong706
        27
    dong706  
    OP
       2023-02-14 12:36:52 +08:00
    @luomao 这个我已经实现了,就是等 chatgpt 打字速度太慢了...所以才想来求教各位大佬
    saymoon
        28
    saymoon  
       2023-02-14 13:34:11 +08:00
    目前没有既能用 chatGPT 模型,又能达到 gpt3 api 速度的方案,开 Plus 会员用 Turbo 模型是目前兼具质量和速度的最佳方案。
    governcoco
        29
    governcoco  
       2023-02-14 13:55:55 +08:00
    @ByteCat 有试过吗,亲。
    king888
        30
    king888  
       2023-02-14 14:05:06 +08:00
    慢就对了,高峰忙时直接拒绝服务,因为太多人薅羊毛了
    dobelee
        31
    dobelee  
       2023-02-14 14:55:11 +08:00
    @fengci 这是 GPT3 的接口,之前“泄露"过一个 chatgpt 的模型,几天就被删除了,目前能用的几个模型都是智障。
    azure2023us
        32
    azure2023us  
       2023-02-14 15:01:00 +08:00 via Android
    @dobelee 泄漏的能用?
    IamBack
        33
    IamBack  
       2023-02-14 19:31:50 +08:00
    @saymoon 你好,这个 Turbo 模型,有相关介绍吗? 具体使用方法,是#25 楼 swulling 同学介绍的下面哪一种?(我个人猜测是第 2 种)
    1. 用泄漏的模型名
    2. 用 gpt3 伪装成 chatgpt
    3. 用无头浏览器交互
    stop9125
        34
    stop9125  
       2023-02-14 20:27:14 +08:00
    无头浏览器搞 chatGPT 有开源的瞅瞅么
    mmdsun
        35
    mmdsun  
       2023-02-16 12:51:21 +08:00 via iPhone
    试试看微软的 API ,Azure OpenAI
    jackleeforce3615
        36
    jackleeforce3615  
       2023-03-01 10:58:29 +08:00
    我这几天用 FastAPI 写了个测试后端,在里面调用 Open AI 的 SDK ,然后打算部署在 USA 的某台服务器上,想着实现墙内转发,测试的时候无论模型传达芬奇的哪一个分支,答案出来都像个智障。比如我问他现在什么型号的 iphone 值得买,一会儿回答我 iphone 11 pro max,一会儿回答 iphone 6s plus.

    原来小丑竟是我自己~
    DongXYZ
        37
    DongXYZ  
       2023-03-02 22:52:45 +08:00 via Android
    结果今天就有 OpenAI 官方的 ChatGPT 的 API 了😂😂😂
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5290 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 07:33 · PVG 15:33 · LAX 23:33 · JFK 02:33
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.