我是一名 50 岁的连续创业者,我身边的同龄人大多在享受生活,对于大语言模型的未来将信将疑,我却义无反顾的投身到生成式 AI 的创业之中。在这里,我想分享一下我的创业故事和我们所构建的三个 AI 产品。
这个项目开始于 2022 年初,那时候 ChatGPT 还没有出现,没有人相信 AI 能发展到今天的地步。我们那时的做法是基于认知行为流派的心理学理论,帮助人们发现思维中包含的认知扭曲,并以更健康的方式进行重塑。由于 AI 技术的限制,我们那时主要采用结构式对话而不是生成式对话,并以非常低的成本打造出一款类似 Woebot 那样的产品,我也很为此而感到骄傲。
但是 ChatGPT 的横空出现改变了一切,生成式 AI 的降维打击让我们之前的对话方式显得过于机械。我们首先想到的当然是基于生成式对现有的产品进行改造,但是我很快发现大模型更擅长的是逻辑推理而不是共情与疗愈。将生成式 AI 用于心理治疗场景,一方面受限于大语言模型的能力,另一方面还需要兼顾伦理和道德问题,这并非像我们这样的小团队现在所能掌控的事情。从某种意义上讲,当前阶段的大模型和人类自身都还没有为此而准备好。
在开发基于生成式 AI 的对话过程中,我们面临的最大困扰是大语言模型生成结果的不稳定性。即使使用同样的提示语,大模型的生成结果都很难预测,更不要说在生产环境中要面临五花八门的用户提问,而且心理场景的聊天还是以多轮对话为主,如果没有好用的评估工具和高效的评估方法,大语言模型的生成稳定性和产品质量就很难把控。
于是,我决定自己开发一款用于评估大语言模型生成质量,主要面向海外市场的 SaaS 产品,并将其取名为 EvalsOne 。这个过程对于我来说还挺困难的,考虑到成本和新方向对于知识结构的要求,我不得不将团队的规模缩小到了 3 个人,我不仅要学习全新的技术栈(我过去使用较多的是 PHP ,而新的项目则基于 Python+React 构建),我们的评估解决方案也需要不断调整来适应大语言模型能力和生态的进化。
这个过程对于我来说无疑是艰难的,但同时也充满了惊喜和收获。如果没有像 ChatGPT 和 Github Copilot ,像我这样一个零基础的 Python 小白,几乎不可能完成这样一个技术难度相当高的项目。接受和拥抱生成式 AI ,对于每个脑力劳动者和创意工作者来说,是必然的选择和趋势。
这个项目花费了我们几个月时间,当我们开始立项时,市场上还只有寥寥无几的几个评估框架,包括 OpenAI 的 Evals ,而等到我们的产品开始进入 Public beta 时,这方面的产品已经相当多了,既有开源的也有基于云端 SaaS 的。我们发现将大模型作为裁判员用于评估尽管未来前景广阔,但是对于我们这样一个小团队来说,现阶段无法在市场培育教育和组建销售队伍方面投入足够的资源,也缺乏实际的案例形成具有说服力的解决方案。
作为一个大语言模型的重度使用者,我经常需要通过 ChatGPT 、Claude 来获得帮助、解决问题,但是它们的免费版本都或多或少有着各种限制,即便付费也不总是满足我的需求,比如在 ChatGPT Plus 上只能使用 Dall-e 来生成图片,而 Claude 的 Pro 版本的条数限制和上下文长度很容易被触及。
另一方面,我还是生成式 AI 应用的开发者,需要经常调试不同厂商的 API ,尽管 OpenAI 、Claude 、Google Gemini 等都提供了各自的 Playground ,它们各有特点,但是彼此不能互通,而且支持的功能也不完整,比如 Claude 的 Workbench 中不能调试图片输入和函数调用,而 OpenAI 的 Playground 直到一年之后才刚刚加入了对于函数调用的支持,并且不支持结构化输出的调试。
我很希望有一个更强大、更开放的工作台,能够提供友好的 GUI ,并且通过 API 连接各个主流厂商的模型 API ,不受对话次数和上下文的限制,并且具有全面的功能,让我可以随心所欲的探索大语言模型的能力。我还希望使用成本对于我来说是可控的,最好是按需付费,而不是被迫购买各种厂商的付费计划却不能充分利用。
我们起初在 EvalsOne 中提供了 Playground 的功能,通过它能够调试各个大语言模型的 API 并快速发起评估运行,我们发现它的受欢迎程度甚至超过了 EvalsOne 本身,于是我们决定将它独立出来,作为我们的一个 Side project 来完善,并且给它一个独立的域名:ConsoleX.ai 。
经过了几个月的开发和完善,我觉得是时候对 ConsoleX 做一个正式的介绍了。
我知道目前市场上有很多 AI Chatbot 可供选择,但我们想打造的不仅是另一个 GUI 界面,而是一个专门为大语言模型的构建者和团队打造的超级工作台,它提供友好、统一的界面、全面的功能和丰富的扩展性。
它的主要功能包括:
在付费模式上,我们提供 freemium 的订阅模式,以及 On-demand 的付费模式。免费的新手计划(Starter Plan)用户可以使用 ConsoelX 提供的对话式 GUI 界面,并集成自己的模型、智能体和工具,还可以基于按需付费方式使用一部分共享模型;而升级后的构建者计划(Builder Plan)可以提供更强大的共享模型、智能体和工具,更大的图片和文件上传尺寸、不受限的对话历史和文件保存时长等。
现在我已经退订了所有模型厂商的付费计划,并将 ConsoleX 作为自己的生成式 AI 工作台。我相信只有首先满足我个人作为用户的需求,才能为更多基于生成式 AI 的创造者们提供有价值的产品和服务。
在生成式 AI 的创业路上我们走了不少的弯路,如今 ConsoleX 从 Side project 变成了我们主要的产品,这个项目对我个人而言也意味着很多,虽然我算是一位“高龄”的生成式 AI 方向的创业者,并且有着很大的生活压力,但我依然感觉自己充满了能量,并且坚信生成式 AI 将会对于我们生活的世界产生深远的改变,我也希望自己能够投入并参与到这个过程中。
这个月以来,我们我们终于开始通过 Stripe 获得一些销售收入,尽管数额不多,但也给我了更多动力和信心,激励我坚持下去,打做一款高质量和有价值的产品。
今天鼓起勇气发出这个帖子,是希望能够获得 V2EX 社区朋友们的反馈,无论你看好或不看好这个模式,无论你的建议是正面的还是负面的,我都会照单全收。如果你和我有着类似的需求,希望尝试使用我们的产品,我当然更加求之不得!每一位给我留言或者发送私信的朋友,我都会向你赠送一个月的 Builder plan 会员资格。
ConsoleX 的访问地址: https://consolex.ai
201
d284476422 85 天前
eWFuZ2JpYW8xMDI3QGdtYWlsLmNvbQ==
已注册,来个会员,谢谢。 |
202
wangetcat 85 天前
[email protected], 已注册,能给个会员体验一下吗
|
203
cpangwork4 85 天前
[email protected] 求个会员码 感谢!
|
205
everfly75 OP |
206
everfly75 OP @linyongxin 谢谢鼓励,现在我们用的是 Stripe 支付,国内支付后面会考虑加上
|
209
luohuanlh 85 天前
大佬优秀啊,求个会员码体验一下
[email protected] |
213
everfly75 OP @edisonwong 谢谢帮我们捉 bug ,这个确实需要优化
|
216
everfly75 OP @fuwu1245
这个要么靠 prompt ,要么自己进行微调,当然和使用的基础模型也有很大关系。想要做到 100%受控很难,但可以通过评估降低期望意外的情况。 |
217
everfly75 OP @mkdirmushroom 目前的提示语库要靠用户自己维护,我们只是提供了一个管理界面
|
218
everfly75 OP @13240284671 谢谢建议,因为众所周知周知的原因,我们原本也是希望面向海外市场的,即使使用子域名也难免殃及主域名,所以我们以后可能会主动屏蔽国内的访问。
|
219
handuo 85 天前 via Android
支持一下 我司之前做的就是类似的,跟 coze 和 dify 有一定重合,后续放弃了。祝福!我试用一下,没准有一些更专业的判断 我邮箱 [email protected]
|
220
everfly75 OP |
221
everfly75 OP @fandown
@logyxiao @northbrunv @amenceliu @jack233man @bonchien @fengyu397 @arongpm @ericch @midpoint @zdyd @romisanic @xzg1993 @ersic @XueXianqi @heeeeeem @rails @sexoutsex2011 @yaxianzhi @xiaowangdegushi @yoyolichen @linyongxin @Jaosn @knockkey @leniguo @Degenerat @TrigVon @brucehjt @RobinWujw @MrdotX @Dawnton @zhjgo @LaoBnan @SherlockJay @spesun @panhongbo @zjsdn9 @Avafly @keethebest @h55134 @joezyue @zlzdbf @dododada @Momentumer @label @broken123 @dogslin @Arvin0913 @Yoruno @zdl0929 @egfegdfr @jeffmingup @a194259440 @zhijiansha @Unicorns96 @dybala @thinking1001 @Roc2023 @pangdundun996 @jptiancai @pirlo21 @ibazhx @hellohello1 @miser @rm0l @zy5a59 @haoao @anychuan @vvve @WASP76b @sjqboss @edisonwong @NonClockworkChen @incubus @Deming19 @dyedd @azal @xiao8276 @rickzrn @ztty @kongzz @ywx620 @dingqi 感谢大家的支持和鼓励,我在这里统一说一声儿,会员资格已经为大家升级,可以进入 ConsoleX 中查看。如果我有个别遗漏的麻烦再给我留一下言,没有注册会员的还需要注册一下会员。 另外,出于隐私考虑,如果收到会员资格大家可以删除一下包含邮箱的回复。 |
222
lasuar 85 天前
|
223
lasuar 85 天前
反馈第二个问题:robot 回复内容的 ui 动效 能否做到 chatgpt 那个效果,现在的太死板了卡帧一样,看着真难受。。个人感受
|
224
PDdavon 85 天前
ZGF2b25jaGVuMzU5QGdtYWlsLmNvbQ==
楼主帮忙升级下, 试了下切换模型比 poe 之流轻量很多, 期待更丰富的提示语库 |
225
lasuar 85 天前
继续反馈问题:回复内容时 页面没有自动上滑,需要手动。
|
226
wzwmeme 85 天前
求个会员!~ [email protected]
|
229
idaozhan 85 天前 via Android
[email protected] 求个会员体验一下 感谢!
|
230
NetZeen 85 天前
为大佬点赞👍 求个会员 [email protected] 谢谢大佬
|
231
Meoup 85 天前
|
232
tengben0905 85 天前
查了一下大佬的信息,竟然是学长。 求个会员! [email protected]
|
233
ys2016814 85 天前
[email protected] 已注册,求升级,感谢。
|
234
foam 85 天前
|
235
foam 85 天前
方便的话帮忙升级使用下哈,谢谢。[email protected]
|
236
deavorwei 85 天前
大佬求个会员: [email protected]
|
237
kdbtg91 85 天前
试用了一下,很快,但是个人观点可能界面可以改善,其实 poe 也是不好看,可以简洁一点,产生新对话是有两个按钮吗?一个有字,一个在搜索旁边,然后比如像采样温度之类的名称可以换一下,可以更面向大众,易于理解,
[email protected] |
238
maxwellxzy5 85 天前 via iPhone
非常感谢: [email protected]
|
239
xiayushengfan 85 天前
同求会员体验🙏 [email protected]
|
240
gtalk 85 天前
感谢,体验下 [email protected]
|
241
Lbby 85 天前
什么时候能支持支付宝、微信? [email protected] ,求个体验会员
|
242
NineSu 85 天前
|
243
ainon 85 天前
厉害
|
244
everfly75 OP @idaozhan
@NetZeen @Meoup @tengben0905 @foam @deavorwei @kdbtg91 @maxwellxzy5 @xiayushengfan @gtalk @Lbby @NineSu 已经升级好了👌 |
249
nineyang 85 天前
|
250
JustdoitSoso 85 天前 via Android
大概看了下,技术壁垒确实不高,oneapi 加个前端就能实现你们类似的效果,有可能没你们的流畅或者优秀什么的,但如果后续收费比你们低呢?一点浅薄的看法,有不对的望见谅。
|
252
zmkoo000 84 天前
em1rb28wMDAlNDBnbWFpbC5jb20= 已注册,求会员,感谢~
|
253
505972099 84 天前
求个会员,感谢,[email protected]
|
257
qz964408614 84 天前
@everfly75 求个会员,[email protected] ,感谢
|
259
dwk80123 84 天前
求个会员,感谢。
[email protected] |
260
valjean 84 天前
同求会员体验🙏
[email protected] |
261
deavorwei 83 天前
大佬提个小小的建议:页面直接 ctrl+v 就能上传图片,不用手动点击选择图片按钮。
|
264
liang666cn 83 天前
求个体验会员 liang969219334@gmail
|
266
admc 83 天前
写的很棒,期待试用。[email protected]
|
267
huitailangcy 83 天前
c2hlbmh1bGluMUBnbWFpbC5jb20=
已注册,求大佬赠送会员,谢谢; 有一个建议,如果聊天文本太长没有一键回到顶部的按钮;页面聊天太多的话右侧的滚动条在最底部的时候会被遮挡 https://mjj.today/i/jlhrAG |
268
huitailangcy 83 天前
不能删除历史记录,只能对文件夹组进行删除
|
269
chinaq 82 天前
[email protected]
已注册体验不错,求会员谢谢~ |
270
r199703111111111 82 天前
[email protected]
已注册体验不错,op 求会员谢谢~ |
271
tangxiangpi325 82 天前 via Android
aichatone.com 也做着类似的事情,不过更聚焦于聊天
|
272
loren0912 82 天前
[email protected] 已注册体验不错,op 求会员谢谢~
|
273
Momentumer 82 天前
这是按量计费的吗?您给我会员之后,没用多久模型就不在给出回复了。我的账号是: [email protected]
|
274
xuwenchao 82 天前
🐂,佩服大佬的执行力。[email protected] 求升级,小弟体验学习学习。
|
275
cafebebi 81 天前
已注册,推文确实吸引人,求会员体验( [email protected] )
|
276
shouh 81 天前
我也是生成式重度使用者,经常切换各个模型对比结果,不胜其烦,有老哥这个工具实实在在解决这个痛点~感谢
64: bHliLmZhbnRhc3RAZ21haWwuY29t |
277
Avafly 80 天前
@Momentumer 我也是, 才问了 10 个问题不到, 过几天再看的时候已经不给回复了😂
|
278
awua 80 天前
|
279
yyzgl 80 天前
[email protected] 已注册 求会员体验
|
280
leejinhong 80 天前
@everfly75 #11 后面不知道为啥一直 提示空的
|
281
tita007 80 天前
不要太累,太卷,记得劳逸结合,毕竟 50 岁了。不要投入太多现金/融资/负债,不要签什么协议之类的,做好税务规划,及时了解银行各政策时常调整和折腾~
谢谢分享,一会儿看看去 |
282
deavorwei 79 天前
|
285
everfly75 OP @huitailangcy 感谢你的意见!用户体验的细节我们会持续优化;删除对话历史记录的功能入口在页面上方的标题上,可能使用起来有些不习惯,我们后面也会考虑在左侧菜单的对话中加上删除功能。
|
286
everfly75 OP @yyzgl
@awua @shouh @cafebebi @xuwenchao @Momentumer @loren0912 @tangxiangpi325 @r199703111111111 @chinaq @admc 已经注册过的朋友都帮你们升级了。 |
287
everfly75 OP |
288
rowG 79 天前
还可以申请一个会员吗: [email protected]
|
289
enterwiz 79 天前
致敬!项目三应该是很多 GenAI 用户的刚需,已 upvoted 。
|
292
kiroli 79 天前
申请会员: [email protected]
|
293
hresh 78 天前
申请体验一下: [email protected]
|
295
whosesmile 68 天前
我做前端的,试了几天了,体验真的非常棒,天天上去学新东西,厉害!
|
296
reseen 63 天前
已充值,请问 o1 模型为什么不给答案呢?
|